Anthropic fait savoir au gouverneur de Californie que les tribunaux devraient pouvoir bloquer les modèles d'IA à risque

par Courtney Rozen

WASHINGTON, 28 octobre (Reuters) - Anthropic a déclaré au gouverneur de Californie, Gavin Newsom, que les responsables gouvernementaux devraient pouvoir demander des ordonnances judiciaires visant à bloquer la diffusion de modèles d’IA présentant un « risque grave » pour le public, selon une lettre datée du 15 octobre qui faisait écho aux propositions politiques antérieures de l’entreprise.

(link) Anthropic a elle-même fait l’objet de restrictions gouvernementales concernant ses systèmes d’IA. En juin, l’administration Trump avait ordonné à Anthropic de restreindre immédiatement l’accès étranger à ses modèles Mythos 5 et Fable 5, dotés de capacités cybernétiques, en invoquant des préoccupations de sécurité nationale. Le ministère américain du Commerce a par la suite levé cette injonction.

"Lorsqu’une évaluation conclut qu’un modèle présente un risque grave, le gouvernement devrait pouvoir demander à un tribunal de le bloquer", indique la lettre adressée à Newsom.

Un porte-parole d’Anthropic a confirmé l’authenticité de cette lettre. Le bureau du gouverneur de Californie n’a pas immédiatement répondu à une demande de commentaire.

Anthropic a soumis ces recommandations après que le gouverneur eut réuni, en septembre, un groupe d’experts en intelligence artificielle chargé d’élaborer des propositions concernant les exigences de sécurité en matière d’IA.

L’entreprise a également déclaré s’opposer à l’obligation faite aux développeurs de mettre en place des "kill switches" capables de désactiver des modèles d’IA dans leur intégralité au cas où une entreprise perdrait le contrôle de leurs actions. Anthropic préconise plutôt des interventions plus ciblées, telles que la désactivation d’un agent d’IA problématique ou la suppression de l’accès d’un client spécifique à un modèle, selon la lettre, estimant que ces mesures seraient plus efficaces.

En septembre, un groupe bipartite de sénateurs américains a débattu d’un projet de loi qui donnerait au gouvernement américain le pouvoir de bloquer la mise sur le marché de certains modèles d’IA jugés dangereux, a rapporté Reuters (link), les entreprises pouvant contester cette décision devant un tribunal fédéral. Le Congrès est parti en pause préélectorale peu après, et les législateurs n’ont pas donné suite à cette proposition.

En juillet, des députés de la Chambre des représentants américaine ont proposé l'"AI Kill Switch Act", qui donnerait aux autorités américaines le pouvoir d’ordonner aux entreprises spécialisées dans l’IA de désactiver les modèles mettant en danger la vie humaine ou l’économie.

Anthropic se prépare (link) à une introduction en bourse aux États-Unis. Cette cotation constituerait l’une des entrées en bourse les plus marquantes de ces dernières années, susceptible de redéfinir les indices de référence, les flux d’investisseurs et le contexte général régissant les actions américaines.

C’est Politico qui a révélé en premier les détails de cette lettre.

(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)