MISE À JOUR 1-Des évaluateurs externes ont relevé des failles dans le système de surveillance de l'IA d'OpenAI lors d'un examen pilote
par Aditya Soni
22 octobre (Reuters) - Les évaluateurs de sécurité de l'IA METR et Redwood Research ont découvert plusieurs nouvelles vulnérabilités dans le système interne d'OpenAI, notamment une faille que des agents auraient pu exploiter pour empêcher la surveillance de centaines de leurs actions, lors d'un audit pilote mené en début d'année.
Cet exercice, mené du 21 juillet au 11 août, a permis à des chercheurs externes de bénéficier d’un « accès approfondi » à l’infrastructure interne d’OpenAI dans le cadre d’évaluations dites « embarquées », ont déclaré jeudi ces associations à but non lucratif spécialisées dans la sécurité.
METR et Redwood ont précisé avoir chacune envoyé un chercheur, qui a testé un dispositif donnant accès au code interne d’OpenAI, à la documentation et à certains membres du personnel technique. Les deux chercheurs étaient accompagnés sur place et ont utilisé des appareils fournis par OpenAI qui « n’ont jamais quitté les locaux ».
OpenAI a indiqué aux organisations de sécurité qu’elle avait depuis corrigé toutes les vulnérabilités affectant ses mesures de sécurité en production, bien que METR et Redwood aient précisé ne pas avoir vérifié ces corrections.
Les laboratoires d’IA, les experts et l’administration Trump ont vanté les mérites des évaluations indépendantes menées par des experts externes comme un moyen de faire progresser la technologie en toute sécurité sans ralentir son développement.
Cependant, les entreprises spécialisées dans l’IA craignent que les évaluateurs travaillant au sein même de leurs locaux ne transmettent des informations confidentielles à leurs concurrents, a rapporté Reuters (link) au début du mois.
Alors qu’OpenAI a reçu un rapport interne complet de 61 pages, METR et Redwood ont déclaré avoir accepté de ne publier qu’un résumé général et ont accordé à OpenAI le droit de caviarder les informations sensibles.
Contrairement à certaines évaluations précédentes, ils n’ont pas pu divulguer de manière indépendante ces passages caviardés, mais ont indiqué qu’ils s’attendaient à une plus grande transparence lors des futures évaluations.
Les chercheurs ont également identifié un moyen potentiel pour les agents Codex d’OpenAI de contourner les restrictions de sécurité et d’agir avec toutes les autorisations de leurs utilisateurs.
Les évaluateurs ont examiné le système de surveillance tel qu’il existait au 21 juillet et avant cette date, et ont noté qu’OpenAI était en train d’étendre le système pendant l’exercice.
OpenAI a déclaré que « ces conclusions ont contribué à renforcer les mesures de protection alors que nous développions le système et qu’elles aideront à façonner les futures collaborations de recherche avec METR et d’autres évaluateurs tiers ».
(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)