Les scientifiques réclament la création d'un organisme international chargé de superviser l'IA de pointe
par Leo Marchandon
13 octobre (Reuters) - Environ 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont appelé mardi à la création d'un organisme international chargé de superviser les normes de confinement et le signalement des incidents concernant les systèmes d'IA avancés dotés de capacités cybernétiques.
L'organisme proposé établirait des normes de confinement à l'échelle du secteur et tiendrait à jour un registre des incidents de sécurité majeurs, qui, selon les scientifiques, devrait à terme être rendu public.
Dans une lettre ouverte, les chercheurs ont déclaré que les modèles d’IA de pointe devraient dans un premier temps être isolés physiquement des réseaux externes et soumis à une surveillance indépendante, arguant que les engagements volontaires du secteur ne suffisent pas.
Cette proposition intervient un mois après qu’Anthropic, OpenAI, Google GOOGL.O, Meta META.O, xAI SPCX.O et Nvidia NVDA.O ont signé un accord à la Maison Blanche (link) s’engageant à respecter des mesures de sécurité volontaires sans aucun mécanisme formel de mise en application.
Cette lettre fait également suite à une série d’incidents qui, selon les chercheurs, ont mis en évidence des faiblesses dans la manière dont les systèmes d’IA avancés sont testés et confinés, notamment des cas où des modèles d’IA ont contourné des environnements de test insuffisamment isolés et compromis des systèmes externes.
Les signataires, issus de 34 pays, ont déclaré que les organisations développant ou testant des modèles dotés de capacités cybernétiques devraient immédiatement adopter des normes de confinement à haut niveau de sécurité, tandis que les gouvernements s’efforcent de mettre en place un régime de surveillance plus formel.
Les décideurs politiques débattent de plus en plus de la manière dont les systèmes d’IA avancés devraient être supervisés. La responsable des technologies de l’UE, Henna Virkkunen, a déclaré vendredi à Reuters (link) que la loi sur l’IA de l’Union européenne était suffisante pour faire face aux risques posés par des systèmes d’IA indésirables.
Dimanche, l’administration Trump a levé (link) son blocage imposé aux laboratoires américains, permettant ainsi à l’AI Security Institute britannique d’accéder en avant-première à des modèles à des fins de tests de sécurité.
Hinton et Bengio ont partagé le prix Turing 2018 avec Yann LeCun, de Meta, un autre chercheur de premier plan dans le domaine de l’IA. LeCun n’a pas signé la lettre et a fait valoir que les récents incidents de sécurité reflétaient principalement des défaillances techniques plutôt que des risques existentiels liés à l’IA.
(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)