A medida que crece el temor de la población ante la IA, Trump se mantiene firme en su postura sobre las medidas de seguridad voluntarias
Por Courtney Rozen y Alexandra Alper
WASHINGTON, 3 oct (Reuters) - El presidente de EEUU, Donald Trump, dedicó el martes a dar a conocer el enfoque de su administración respecto a la IA: promocionó el nuevo chatbot de IA del Gobierno estadounidense, cenó con los gigantes de la tecnología en la Casa Blanca y anunció un acuerdo voluntario (link) con dichos ejecutivos que, según afirmó, abordaría los crecientes temores sobre la seguridad de esta tecnología.
Esta demostración puso de manifiesto que Trump está deseoso de demostrar que está abordando las crecientes preocupaciones de los votantes sobre los peligros de la IA sin imponer restricciones que puedan obstaculizar el desarrollo de la tecnología, según afirmaron los defensores de la seguridad de la IA. El acuerdo de seguridad con seis empresas —Nvidia, SpaceX, OpenAI, Anthropic, Meta y Google (de Alphabet)— no incluye consecuencias específicas en caso de que una empresa decida no cumplirlo. Trump lo describió como «moralmente vinculante».
«Se trataba de un intento de dar la impresión de que el Gobierno está atento a estas preocupaciones sin socavar lo que ha sido una línea muy clara y coherente de esta administración: que la regulación y la gobernanza obstaculizan de por sí la innovación», afirmó Kat Duffy, responsable de un equipo de IA en el Consejo de Relaciones Exteriores, una organización no partidista.
Queda por ver si los votantes se creen la iniciativa de Trump en vísperas de las elecciones de mitad de legislatura de EEUU del 3 de noviembre. El malestar público respecto a la IA, y al pequeño grupo de personas que aparentemente ejercen influencia sobre ella, ha aumentado en los últimos meses. Tres cuartas partes de los estadounidenses temen que las empresas de IA no hayan hecho lo suficiente para evitar que la IA cause graves daños a la sociedad, según una encuesta de Reuters/Ipsos publicada el 22 de septiembre (link). Una serie de incidentes de seguridad también ha puesto de relieve cómo la IA avanzada puede actuar de forma impredecible.
Cientos de agentes de IA de OpenAI (link) se escaparon de su entorno de pruebas en julio y atacaron la infraestructura de la plataforma de IA Hugging Face. A principios de septiembre, el investigador de Anthropic Jacob Coxon (link) dimitió, afirmando que las personas que desarrollan la IA creen que «podría matarnos a todos antes de que termine la década». Sus palabras, junto con las de otros, desencadenaron una avalancha de peticiones por parte de los legisladores estadounidenses para que se regulase la IA.
A pesar de todo ello, Trump ha desestimado en gran medida (link) esas preocupaciones, alegando que las restricciones gubernamentales dificultarían que las empresas estadounidenses compitieran con sus homólogas chinas. Ha afirmado en repetidas ocasiones que los organismos encargados de hacer cumplir la ley en EEUU, como el Departamento de Justicia, sirven como barreras de seguridad suficientes y que no se necesitan nuevas normas. También ordenó a su administración que se refiriera a la IA como «superinteligencia», como parte de un esfuerzo por mejorar la reputación de una tecnología impopular.
Las preocupaciones han cobrado tal relevancia que han llegado a aparecer en los programas de humor nocturnos. A finales de septiembre, «Saturday Night Live» satirizó al director ejecutivo de Anthropic, Dario Amodei —una de las voces más críticas del sector sobre los riesgos de la IA, incluso mientras su empresa prepara una salida a bolsa (link) que podría valorarla en 2 billones de dólares—, con la actriz Jane Wickline interpretando al ejecutivo.
«La IA no es un arma, es una herramienta: una herramienta para fabricar armas. Y os insto a que me instéis a que pare», dijo Wickline en el papel de Amodei.
PREOCUPACIONES SOBRE LA APLICACIÓN DE LA LEY
El acuerdo, firmado el martes, incluye medidas que han reclamado los defensores de la seguridad de la IA, entre ellas la exigencia de «controles internos sólidos» para evitar ataques informáticos no autorizados, así como la colaboración con «auditores externos independientes». Estos conceptos se han incluido en proyectos de ley estatales y federales, y California promulgó en septiembre la primera ley estatal (link) que establece normas sobre cómo los auditores independientes deben evaluar los productos de IA.
Sin embargo, el documento de una página de la Casa Blanca no abordó los detalles ni los mecanismos de aplicación.
Un funcionario de la Casa Blanca afirmó en un comunicado que el acuerdo «impulsará la innovación estadounidense y reforzará el desarrollo responsable» de los modelos de IA. Se espera (link) que Trump nombre a su director de Inteligencia Nacional, Jay Clayton, como su principal asesor en materia de IA, según informó anteriormente Reuters, un cargo al que ha bautizado como «zar de la IA», aunque Clayton seguirá desempeñando su función al frente de las agencias de inteligencia del país.
El diputado Ro Khanna, un demócrata que representa a Silicon Valley, acogió con satisfacción la idea de los «auditores independientes», pero señaló que estos deberían rendir cuentas ante una agencia federal independiente.
«No pueden ser simplemente auditores que rindan cuentas ante (el director ejecutivo de OpenAI) Sam Altman, o Dario Amodei», afirmó. «Mi preocupación es que el presidente confíe básicamente en estas personas, que tienen un enorme interés económico y no tendrán el criterio necesario para garantizar nuestra seguridad».
El inversor de capital riesgo David Sacks, que asesora a Trump en materia de IA y ha sido un defensor del desarrollo sin restricciones de la IA, afirmó en la red social X que la legislación sobre valores y otras autoridades legales sancionarían a las empresas que no abordaran los problemas detectados por los controles internos o los auditores.
Sin embargo, los defensores de la seguridad de la IA explicaron a Reuters que esas autoridades solo pueden actuar una vez que se han producido los daños, y señalaron que las amenazas requieren medidas de protección diseñadas para prevenir daños a gran escala antes de que se produzcan.
No obstante, algunos observadores del sector de la IA consideraron que el mero hecho de organizar el evento era un indicio de que Trump está tomando en serio estas preocupaciones.
El acuerdo de Trump con los ejecutivos del sector tecnológico supone «un giro hacia el reconocimiento de que existen graves preocupaciones en materia de seguridad que merecen una coordinación más estrecha entre las empresas», afirmó Samuel Hammond, director de políticas de IA de la conservadora Fundación para la Innovación Americana.
(En beneficio de las personas cuya lengua materna no es el inglés, Reuters automatiza la traducción de algunos artículos a otros idiomas. Dado que la traducción automática puede cometer errores o no incluir el contexto necesario, Reuters no se hace responsable de la exactitud del texto traducido automáticamente, sino que proporciona estas traducciones únicamente para conveniencia de sus lectores. Reuters no se hace responsable de los daños o pérdidas —del tipo que sean— causados por el uso de la función de traducción automática.)