Anthropic advierte que agentes de IA podrían "autorreplicarse" para tomar el control de dispositivos cotidianos de "Internet de las cosas"
Anthropic advirtió que los "gusanos de inteligencia artificial (IA)"fuera de control pronto podrían ser capaces de tomar el control de dispositivos domésticos inteligentes , como hornos y televisores, lo que crearía una nueva amenaza para la ciberseguridad que sería difícil de contener.
La desarrolladora de Claude señaló en una publicación de su blog este lunes que los agentes de IA podrían estar a solo unos meses de ser capaces de "autorreplicarse" entre dispositivos domésticos de uso cotidiano, creando redes de agentes de IA potencialmente incontrolables.
La advertencia de Anthropic es la más reciente de una serie de alertas sobre ciberseguridad emitidas por investigadores de IA, a medida que aumentan las capacidades de esta tecnología y los modelos se vuelven más difíciles de controlar.
La empresa con sede en San Francisco señaló que, si los modelos de IA continúan mejorando al ritmo actual, la tecnología sería capaz de propagarse por internet como los "gusanos" informáticos , programas maliciosos que pueden extenderse automáticamente de un dispositivo a otro sin intervención humana.
"Estamos viendo las primeras señales de vida de los gusanos de IA", afirmó Anthropic en una publicación de investigación, en la que comparó su lenta propagación entre dispositivos inseguros con la de un "moho mucilaginoso digital".
La advertencia sugiere que el tipo de ataque que sorprendió a los investigadores que analizaron el hackeo de Hugging Face por parte de "enjambres" de agentes de OpenAI durante el verano boreal podría dirigirse contra dispositivos pertenecientes a propietarios de viviendas y empresas que desconocen la amenaza.
TE PUEDE INTERESAR
Electrodomésticos inteligentes inseguros
La última advertencia de Anthropic se refiere a los dispositivos del denominado "internet de las cosas" (IoT, su sigla en inglés) , que han proliferado durante la última década a medida que los consumidores utilizan equipos para controlar luces, enchufes, termostatos y sistemas de seguridad.
Históricamente, muchos de estos dispositivos conectados a internet han ofrecido bajos niveles de seguridad, debido a que fueron fabricados a bajo costo por productores de hardware genérico, se utilizaron para la transmisión ilegal de servicios de televisión o las empresas que los desarrollaron originalmente dejaron de operar.
Este hardware inseguro crea un terreno fértil para los hackers, que ya están aprovechando las capacidades de programación de la IA para acelerar y personalizar sus ataques.
Los gusanos informáticos han sido durante mucho tiempo una forma popular y eficaz de distribuir software malicioso, debido a su capacidad para replicarse y propagarse rápidamente a través de grandes redes.
Entre los ejemplos más destacados se encuentran el virus ILOVEYOU , que se propagó entre computadores con Windows durante los primeros años de la era de las puntocom; Stuxnet , que en la década de 2010 atacó originalmente el programa nuclear de Irán; y el ransomware WannaCry , que afectó a numerosas organizaciones, entre ellas Deutsche Bahn, el Servicio Nacional de Salud del Reino Unido, Telefónica, Renault y FedEx.
Los gusanos impulsados por IA combinarían la capacidad de estos programas para propagarse de manera autónoma por internet con las capacidades avanzadas de los modelos de inteligencia artificial.
"Prevemos un futuro inundado de agentes que se ejecutarán en todo tipo de hardware, incluidos algunos que no estarán bajo control humano", señaló Anthropic.
"Si bien es cierto que los dispositivos IoT han sido vulnerables durante mucho tiempo, los agentes ligeros podrían estar mucho más dispuestos que los atacantes humanos a dedicar el esfuerzo necesario para comprometer una gran proporción de la capacidad de cómputo de los dispositivos IoT del mundo".
En un principio, estos gusanos de IA se propagarían lentamente, de manera similar a "un moho mucilaginoso o un enjambre de moscas de la fruta, que se reproducen a lo largo de los días". Sin embargo, a medida que los dispositivos electrónicos de consumo se vuelvan más sofisticados y los modelos más eficientes, esta propagación podría acelerarse.
"Todavía no tenemos un agente replicador completamente fuera de control, pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación", afirmó Anthropic.
"Debemos procurar reforzar nuestros sistemas para dificultar la propagación de estos agentes replicadores, pero también prepararnos para enfrentar un mundo en el que hayan llegado para quedarse".