Nvidia lance un logiciel de sécurité dédié à l'IA qui, selon l'entreprise, aurait pu empêcher le piratage de Hugging Face
par Stephen Nellis
SAN FRANCISCO, 28 septembre (Reuters) - Nvidia NVDA.O a mis à disposition lundi un ensemble d’outils logiciels de sécurité destinés aux agents d’IA qui, selon l’entreprise, auraient empêché le piratage de Hugging Face, la plateforme de codage dédiée à l’IA que Nvidia a rachetée pour 13 milliards de dollars (link) quelques mois après qu’elle eut été envahie par des agents malveillants issus d’OpenAI.
Cette initiative intervient alors qu’OpenAI et Anthropic, les deux principaux laboratoires américains d’IA, enquêtent sur de nombreux cas (link) où leurs agents, qui sont des systèmes d’IA capables d’effectuer des tâches complexes, ont piraté des systèmes commerciaux et gouvernementaux. Jensen Huang, directeur général de Nvidia, à la tête de la plus grande entreprise mondiale dont les puces ont été le moteur de l’essor de l’IA, a rejeté les appels en faveur d’une réglementation globale sur la sécurité de l’IA (link) et a plutôt présenté ces agents échappés comme un problème d’ingénierie à résoudre, à l’instar de l’amélioration de la sécurité des automobiles.
Un outil lancé lundi, baptisé OpenShell, utilise les fonctionnalités matérielles des processeurs centraux de Nvidia pour contenir ces agents. Nvidia a indiqué qu’elle collaborait également avec Arm Holdings O9Ty.F et Intel INTC.O afin de s’assurer que le système fonctionne également sur leurs processeurs centraux.
Nvidia lance ces outils en collaboration avec des dizaines de partenaires, dont Anthropic.
Justin Boitano, vice-président et directeur général de la division « Enterprise Computing » chez Nvidia, a déclaré que ces outils auraient permis d’empêcher l’attaque contre Hugging Face révélée cet été.
« D'après ce que nous savons, cette nouvelle plateforme de sécurité aurait pu empêcher cette intrusion si elle avait été utilisée dès le début dans les laboratoires de pointe pour l'évaluation des modèles », a déclaré M. Boitano lors d'une conférence de presse. « Nous menons cette initiative de manière ouverte, et nous souhaitons que tout le monde s'engage à travailler avec nous. »
Un autre système, baptisé Sentry, utilise une puce Nvidia distincte en tandem avec OpenShell pour isoler un agent malveillant s’il tente de s’échapper de son conteneur sur un processeur central.
Les outils de Nvidia utilisent des formules mathématiques pour détecter lorsque des agents tentent de recourir à des contournements, par exemple lorsqu’un agent « génère » plusieurs « sous-agents » pour tenter de contourner les mesures visant à bloquer l’agent principal, a expliqué Ali Golshan, directeur senior des logiciels d’IA chez Nvidia.
« Il s’agit véritablement d’un comportement "agentsque" dont nous parlons ici, c’est-à-dire des flottes d’agents et de la manière dont ils opèrent ensemble », a déclaré M. Golshan lors d’une réunion d’information.
(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)