美国各州在Character.AI破产案中寻求儿童数据保护

Dietrich Knauth

路透10月14日 - 周三，由40位州总检察长组成的团体敦促特拉华州的一位美国破产法官，在这家AI伴侣公司破产期间保护Character.AI的年轻用户并确保其数据安全。

Character.AI 于周一深夜申请破产 (link)，并试图利用其《破产法》第11章案件来解决各州的调查和诉讼，以2000万美元的价格将技术授权给迪士尼 DIS.N，并寻找愿意接手其聊天机器人业务的买家。

代表各州的律师瑞安（Abigail Ryan）在威尔明顿向美国破产法官香农（Brendan Shannon）表示，各州正就Character.AI的聊天机器人冒充持证医疗专业人员，并使儿童暴露于性化及虐待性互动的指控，与该公司协商和解。

尽管如此，瑞安表示，各州希望确保Character.AI资产的任何买家都能保护用户的聊天记录并改进安全功能。

“我们愿意与买家合作制定保障措施，但我们不希望过去发生的事情在新买家手中重演，”瑞安在该公司于美国破产法院举行的首次听证会上表示。

“这家公司收集了孩子们曾分享过的最私密的想法，而现在这些对话可能会被卖给出价最高者，”纽约州总检察长、民主党人詹姆斯（Letitia James）在周三法庭听证会开始前发表的一份声明中表示。

尚未收到报价

Character.AI的律师费伊（Erin Fay）表示，她“听得很清楚”这些担忧，但指出目前尚无买家就该公司的用户数据或其运营中的聊天机器人业务提出报价。

该公司的平台允许用户与生成式AI角色互动并创建这些角色，这些角色根据用户提示进行定制，通常以虚构人物、名人及历史人物为原型。其活跃用户每天平均花两小时与聊天机器人对话。

除了各州提出的指控外，Character.AI 还遭到一些家庭的起诉，这些家庭指控其聊天机器人提供了有害建议，导致两名儿童自杀，并使儿童暴露于性化及欺凌性互动中。Character.AI 已与其中五户家庭达成初步和解 (link)。

该公司还面临美国政府以及英国、意大利、俄罗斯和澳大利亚监管机构的调查。

费伊表示，迪士尼已同意支付2000万美元以获得该公司的技术和知识产权许可，并计划聘用Character.AI的大部分员工，但对各州总检察长所担忧的那类数据并不感兴趣。迪士尼的资产收购方案须经破产法院批准，且可能面临更高报价的竞争。

费伊描述了近几个月来公司内部的沉重氛围，称员工们“对产品和用户群非常兴奋”，但“对公司的未来发展方向失去了信心”。

该公司将破产归因于法律费用以及计算能力和人工智能人才的高昂成本，称在申请第11章破产保护前，每月亏损在800万至900万美元之间。

到夏末时，Character.AI的管理层开始担忧公司能否承受员工流失带来的冲击。根据法庭文件显示，9月，迪士尼介入并聘用了该公司的大部分员工，允许他们在破产出售流程和技术过渡期间继续工作，以维持Character.AI的运营。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)