美國各州在Character.AI破產案中尋求兒童數據保護

Dietrich Knauth

路透10月14日 - 周三，由40位州總檢察長組成的團體敦促特拉華州的一位美國破產法官，在這家AI伴侶公司破產期間保護Character.AI的年輕用戶並確保其數據安全。

Character.AI 於周一深夜申請破產 (link)，並試圖利用其《破產法》第11章案件來解決各州的調查和訴訟，以2000萬美元的價格將技術授權給迪士尼 DIS.N，並尋找願意接手其聊天機器人業務的買家。

代表各州的律師瑞安（Abigail Ryan）在威爾明頓向美國破產法官香農（Brendan Shannon）表示，各州正就Character.AI的聊天機器人冒充持證醫療專業人員，並使兒童暴露于性化及虐待性互動的指控，與該公司協商和解。

儘管如此，瑞安表示，各州希望確保Character.AI資產的任何買家都能保護用戶的聊天記錄並改進安全功能。

“我們願意與買家合作制定保障措施，但我們不希望過去發生的事情在新買家手中重演，”瑞安在該公司于美國破產法院舉行的首次聽證會上表示。

“這家公司收集了孩子們曾分享過的最私密的想法，而現在這些對話可能會被賣給出價最高者，”紐約州總檢察長、民主黨人詹姆斯（Letitia James）在周三法庭聽證會開始前發表的一份聲明中表示。

尚未收到報價

Character.AI的律師費伊（Erin Fay）表示，她“聽得很清楚”這些擔憂，但指出目前尚無買家就該公司的用戶數據或其運營中的聊天機器人業務提出報價。

該公司的平台允許用戶與生成式AI角色互動並創建這些角色，這些角色根據用戶提示進行定制，通常以虛構人物、名人及歷史人物為原型。其活躍用戶每天平均花兩小時與聊天機器人對話。

除了各州提出的指控外，Character.AI 還遭到一些家庭的起訴，這些家庭指控其聊天機器人提供了有害建議，導致兩名兒童自殺，並使兒童暴露于性化及欺凌性互動中。Character.AI 已與其中五戶家庭達成初步和解 (link)。

該公司還面臨美國政府以及英國、意大利、俄羅斯和澳大利亞監管機構的調查。

費伊表示，迪士尼已同意支付2000萬美元以獲得該公司的技術和知識產權許可，並計劃聘用Character.AI的大部分員工，但對各州總檢察長所擔憂的那類數據並不感興趣。迪士尼的資產收購方案須經破產法院批準，且可能面臨更高報價的競爭。

費伊描述了近幾個月來公司內部的沉重氛圍，稱員工們“對產品和用戶群非常興奮”，但“對公司的未來發展方向失去了信心”。

該公司將破產歸因于法律費用以及計算能力和人工智能人才的高昂成本，稱在申請第11章破產保護前，每月虧損在800萬至900萬美元之間。

到夏末時，Character.AI的管理層開始擔憂公司能否承受員工流失帶來的衝擊。根據法庭文件顯示，9月，迪士尼介入並聘用了該公司的大部分員工，允許他們在破產出售流程和技術過渡期間繼續工作，以維持Character.AI的運營。

(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)