Anthropic advierte que actitudes de gobiernos podrían dañar relaciones con clientes, muestra documento
Por Echo Wang y Milana Vinn
NUEVA YORK, 2 oct (Reuters) - Anthropic advirtió que las actitudes de los gobiernos hacia la empresa y su tecnología podrían tener implicaciones más amplias para su negocio, incluidas sus relaciones con clientes y socios comerciales, según un folleto de salida a bolsa al que tuvo acceso Reuters.
Las empresas suelen advertir que los cambios en las políticas podrían afectar a su negocio, especialmente en el caso de los contratistas del Gobierno.
Por ejemplo, SpaceX SPCX.O señaló en su solicitud de salida a bolsa que mantener unas relaciones sólidas con las agencias gubernamentales de Estados Unidos es fundamental para su negocio y advirtió de que cualquier deterioro de dichas relaciones podría perjudicar de forma significativa su capacidad para conservar los negocios existentes y conseguir nuevas oportunidades.
La información facilitada por Anthropic parece más amplia, ya que sugiere que las percepciones de los gobiernos sobre la empresa y su conducta podrían ir más allá de sus relaciones directas y afectar a clientes, socios, otras relaciones comerciales e incluso a la civilización.
El documento advierte que la IA avanzada podría suponer "riesgos catastróficos o existenciales para la humanidad", una advertencia extraordinaria por parte de una empresa que planea una salida a bolsa que podría valorarse en 2 billones de dólares gracias a la capacidad de la empresa para obtener beneficios de esa misma tecnología.
La empresa ha señalado que los ingresos procedentes de contratos con organismos gubernamentales representan menos del 1% de su facturación anual.
La empresa se ha convertido en un foco de preocupación por los riesgos que conllevan el rápido avance, la intensa competencia global y la limitada supervisión de las tecnologías de IA.
La cuestión general de la seguridad de la IA ha saltado a la palestra pública recientemente con el llamamiento del director ejecutivo de Anthropic, Dario Amodei, para que el sector ralentice su desarrollo, tras los repetidos casos de actividades de ataques informáticos por parte de los denominados agentes de IA autónomos fuera de control.
Amodei se reunió el domingo pasado a cenar con el presidente de Estados Unidos, Donald Trump, en un momento en que han aumentado los llamamientos a una mayor regulación de la IA.
Trump ha rechazado en gran medida esos llamamientos, aunque la Comisión Federal de Comercio está llevando a cabo una investigación que abarca todo el sector de las empresas de IA, incluida Anthropic, informó Reuters el miércoles.
En el folleto de salida a bolsa, Anthropic citó varias interacciones con el Gobierno de Estados Unidos durante el último año como ejemplos de acciones que podrían perjudicar a su negocio.
El documento indica que, en febrero, el presidente ordenó a las agencias federales que dejaran de utilizar los modelos de la empresa y que el Departamento de Defensa de Estados Unidos calificó a Anthropic como un riesgo para la seguridad nacional en la cadena de suministro.
"La empresa podría sufrir pérdidas sustanciales de ingresos o interrupciones en su actividad atribuibles a estos acontecimientos", señaló Anthropic.
Anthropic también señaló que, en junio, el Departamento de Comercio de Estados Unidos impuso restricciones de exportación a nivel mundial sobre sus modelos Fable 5 y Mythos 5, lo que llevó a la empresa a desactivar dichos modelos para todos los clientes con el fin de garantizar el cumplimiento de la normativa.
Aunque el Departamento de Comercio levantó posteriormente dichas restricciones y Anthropic volvió a poner en funcionamiento los modelos, la empresa advirtió de que podrían producirse medidas similares en el futuro.
Tales medidas podrían dar lugar a "un daño significativo a la reputación, incluida una cobertura mediática adversa, el escrutinio público y percepciones negativas entre los clientes actuales y potenciales, socios, empleados e inversores", independientemente del resultado final.
La empresa añadió que la venta a organismos públicos conlleva riesgos adicionales, entre ellos cambios en la opinión del Gobierno sobre Anthropic o su tecnología.