Los estados de EEUU solicitan medidas de protección de los datos de los menores en el proceso de quiebra de Character.AI
Por Dietrich Knauth
14 oct (Reuters) - Un grupo de 40 fiscales generales estatales instó el miércoles a un juez de quiebras de Delaware (EEUU) a proteger a los jóvenes usuarios de Character.AI y a garantizar la seguridad de sus datos durante el proceso de quiebra de la empresa de IA.
Character.AI se declaró en quiebra (link) a última hora del lunes y pretende utilizar su procedimiento del Capítulo 11 para resolver las investigaciones y demandas de los estados, ceder la licencia de su tecnología a Disney DIS.N por 20 millones de dólares y buscar un comprador dispuesto a hacerse cargo de su negocio de chatbots.
Abigail Ryan, abogada de los estados, declaró ante el juez de quiebras estadounidense Brendan Shannon, en Wilmington, que los estados están negociando un acuerdo con Character.AI en relación con las acusaciones de que sus chatbots se hacían pasar por profesionales médicos colegiados y exponían a los niños a interacciones de carácter sexual y abusivo.
Aun así, señaló Ryan, los estados quieren asegurarse de que cualquier comprador de los activos de Character.AI proteja los historiales de chat de los usuarios y mejore las medidas de seguridad.
«Estamos dispuestos a colaborar con los compradores para establecer medidas de protección, pero no queremos que lo ocurrido en el pasado se repita con un nuevo comprador», afirmó Ryan en la primera vista de la empresa ante el tribunal de quiebras de EEUU
«Esta empresa ha recopilado algunos de los pensamientos más íntimos que los niños han compartido jamás, y ahora esas conversaciones podrían venderse al mejor postor», declaró la fiscal general de Nueva York, Letitia James, del Partido Demócrata, en un comunicado emitido el miércoles justo antes de la vista judicial.
AÚN NO HAY OFERTA
La abogada de Character.AI, Erin Fay, afirmó haber escuchado esas preocupaciones «alto y claro», pero señaló que ningún comprador ha presentado aún una oferta por los datos de los usuarios de la empresa ni por su negocio operativo de chatbots.
La plataforma de la empresa permite a los usuarios interactuar con personajes de IA generativa y crearlos, personalizados según las indicaciones del usuario y a menudo inspirados en personajes de ficción, famosos y figuras históricas. Sus usuarios activos pasan una media de dos horas al día hablando con los chatbots.
Más allá de las reclamaciones de los estados, Character.AI ha sido demandada por familias que alegan que sus chatbots dieron consejos perjudiciales, contribuyeron al suicidio de dos niños y expusieron a los niños a interacciones de carácter sexual y de acoso. Character.AI ha llegado a acuerdos preliminares (link) con cinco de esas familias.
La empresa también se enfrenta a investigaciones por parte del Gobierno de EEUU y de las autoridades del Reino Unido, Italia, Rusia y Australia.
Disney ha acordado pagar 20 millones de dólares para obtener la licencia de la tecnología y la propiedad intelectual de la empresa, así como para contratar a la mayor parte de la plantilla de Character.AI, pero no está interesada en el tipo de datos que preocupan a los fiscales generales estatales, según afirmó Fay. La compra de activos por parte de Disney debe ser aprobada por el tribunal de quiebras y está sujeta a ofertas más elevadas.
Fay describió un ambiente sombrío dentro de la empresa en los últimos meses, afirmando que los empleados «estaban muy entusiasmados con el producto y la base de usuarios», pero habían «perdido la fe en la trayectoria de la empresa».
La empresa atribuyó su quiebra a los gastos legales y al elevado coste de la potencia informática y del personal especializado en IA, y afirmó que perdía entre 8 y 9 millones de dólares al mes antes de acogerse al Capítulo 11.
A finales del verano, la dirección de Character.AI comenzó a preocuparse por su capacidad para hacer frente a la fuga de empleados. En septiembre, Disney intervino para contratar a la mayoría de los empleados de la empresa y permitirles trabajar para mantener a flote Character.AI durante el proceso de venta por quiebra y la transición tecnológica, según los documentos judiciales.
(En beneficio de las personas cuya lengua materna no es el inglés, Reuters automatiza la traducción de algunos artículos a otros idiomas. Dado que la traducción automática puede cometer errores o no incluir el contexto necesario, Reuters no se hace responsable de la exactitud del texto traducido automáticamente, sino que proporciona estas traducciones únicamente para conveniencia de sus lectores. Reuters no se hace responsable de los daños o pérdidas —del tipo que sean— causados por el uso de la función de traducción automática.)