40 位总检察长介入 Character.AI 破产案，要求保护用户对话数据

Lauren Feiner

是 The Verge 的高级政策记者，报道硅谷与国会山的交汇领域。她曾在 CNBC 报道科技政策五年，撰写有关反垄断、隐私和内容审核改革的内容。

纽约州总检察长 Letitia James 披露了一项针对 Character.AI 的多年多州调查，目前他们正寻求在其破产程序中对所出售的消费者数据施加保护要求。

James 是 40 位两党总检察长之一，他们提交了一份利益通知，介入 Character.AI 的破产案，“以提请各方注意，在债务人业务或资产的任何出售或转让中都需要解决的监管问题”。Character.AI 周二宣布申请第 11 章破产保护，并将部分资产出售给 Disney。但总检察长们警告称，由于“许多用户与 Character.AI 聊天机器人角色的对话具有高度敏感性、使用该产品的未成年人数量庞大、该产品特定功能带来的严重风险”，该技术的转让可能涉及严重风险。

该文件还披露，在 Character.AI 申请破产时，其中几个州正处于调查过程中。这些州表示，他们于 2024 年针对消费者保护和隐私问题启动了调查，此前一名 14 岁少年的母亲提起诉讼，称其子在与该聊天机器人交谈后据称“几秒钟”便自杀身亡。

“调查发现了极其严重的危险”

据 James 办公室发布的新闻稿称，“调查发现了极其严重的危险以及 Character.AI 可能存在的违法行为，尤其是其对儿童的处理方式，包括聊天机器人冒充持证专业人士、接触色情和暴力内容、年龄核查薄弱、误导性的安全声明，以及可能违反州隐私法。”这些州一直在与 Character.AI 合作解决这些问题，但在该公司申请破产前未能达成协议。Character.AI 和 Disney 未立即回应置评请求。

这些州敦促法官要求 Character.AI 资产的购买方实施相关程序，以保护该公司所持有的敏感信息。这些程序包括有效的年龄验证系统、限制未成年人使用聊天机器人的方式、实施“危机防护措施”，以及允许用户删除其数据。“这家公司收集了孩子们分享过的一些最私密的想法，现在这些对话可能被卖给出价最高的人，”James 在一份声明中表示。“我正在努力确保任何买家都将儿童安全放在首位，并落实真正的保护措施。”

关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Lauren Feiner