IT之家 10 月 24 日音讯ai换脸 刘亦菲，好意思国别称 14 岁少年自尽身一火，其母亲梅根・加西亚 (Megan Garcia) 对聊天机器东说念主平台 Character.AI、其首创东说念主诺姆・沙泽尔 (Noam Shazeer) 和丹尼尔・德弗雷塔斯 (Daniel De Freitas) 以及谷歌拿告状讼。指控本体包括 wrongful death（过错致死）、negligence（顽强）、deceptive trade practices（欺骗性买卖行为）和 product liability（居品背负）。诉状称，Character.AI 平台“具有分裂理的危急性”，况兼在向儿童倾销时隔断安全防护设施。

凭证诉状，14 岁少年塞维尔・塞泽尔三世 (Sewell Setzer III) 于客岁运哄骗用 Character.AI，并与以《权益的游戏》变装为原型的聊天机器东说念主进行互动，其中包括丹妮莉丝・坦格利安 (Daenerys Targaryen)。塞泽尔在示寂前的几个月里一直与这些机器东说念主聊天，并于 2024 年 2 月 28 日与其终末一次互动“几秒钟后”自尽身一火。

诉状指控 Character.AI 平台存在“拟东说念主化”东说念主工智能变装以及聊天机器东说念主提供“无牌照激情调整”等问题。该平台领有以“调整师”和“你感到孤单吗”等为名的专注于激情健康的聊天机器东说念主，而塞泽尔曾与这些聊天机器东说念主进行过互动。

加西亚的讼师援用了沙泽尔此前给与采访时的一段话，沙泽尔泄漏他和德弗雷塔斯离开谷歌创立我方的公司是因为“在大公司里推出任何兴致的东西齐存在品牌风险”ai换脸 刘亦菲，他但愿“最大完结地加快”这项时间的发展。诉状还提到，他们是在谷歌决定不推出他们诱惑的 Meena 大型言语模子之后离开的。谷歌则在本年 8 月份收购了 Character.AI 的指导团队。

IT之家凝视到，Character.AI 的网站和迁徙应用身手领罕有百个定制的聊天机器东说念主，其中好多以来自电视剧、电影和电子游戏的流行变装为原型。

Character.AI 现已文牍对平台进行一些更动。该公司通信适宜东说念主切尔西・哈里森 (Chelsea Harrison) 在发给《The Verge》的电子邮件中泄漏：“咱们对失去一位用户感到心碎，并向其家东说念主泄漏最深入的慰问。”

部分更动本体包括：

针对未成年东说念主 (18 岁以下) 的模子更动，旨在裁汰遭受明锐或泄漏性本体的可能性。

立异对违背平台要求或社区准则的用户输入的检测、反应和搅扰。

每场聊天齐会出现校正后的免责声明，教导用户东说念主工智能并非真东说念主。

当用户在平台上进行一小时的会话时会收到见告，况兼用户不错自行选用后续操作。

哈里森泄漏：“看成一家公司，咱们至极青睐用户安全，咱们的信任和安全团队在往时六个月里抓行了好多新的安全设施，其中包括当用户使用自残或自尽念头等词语时，会弹出窗口指令用户到国度自尽留心人命线。”

告白声明：文内含有的对外跳转连结（包括不限于超连结、二维码、口令等时势）ai换脸 刘亦菲，用于传递更多信息，省俭甄选时辰，后果仅供参考，IT之家统共著述均包含本声明。

• 平台
• 好意思
• ai换脸 刘亦菲
• 女儿
• 导致