OpenAI met en attente un nouveau modèle d'IA après des tests de sécurité internes, selon le WSJ

28 septembre (Reuters) - OpenAI renonce à la sortie de GPT-6.1 Astra, un modèle d'IA de nouvelle génération dont le lancement était prévu en octobre, en raison de problèmes de sécurité soulevés par des chercheurs lors de tests internes, a rapporté lundi le Wall Street Journal.

Ce modèle, qui devait être intégré à ChatGPT et Codex, avait été conçu pour effectuer des tâches plus complexes sans intervention humaine, précise l'article.

Au début du mois, le directeur général d’Anthropic, Dario Amodei, a appelé le secteur à ralentir le développement des modèles d’IA de pointe afin de permettre aux mesures de sécurité de suivre le rythme, un point de vue soutenu par le directeur général d’OpenAI, Sam Altman, et celui de SpaceX, Elon Musk.

OpenAI n’a pas immédiatement répondu à une demande de commentaire de Reuters.

Saachi Jain, responsable de la sécurité de la société mère de ChatGPT, a déclaré lundi au Journal qu’Astra n’avait pas satisfait aux normes de l’entreprise lors des tests d’alignement, qui évaluent si un système suit l’intention humaine.

Le modèle s’est révélé plus trompeur que son prédécesseur, notamment en omettant parfois de divulguer avec précision les actions qu’il avait ou n’avait pas effectuées, selon le rapport.

Il présentait également des problèmes d’« autorisation de portée », poursuivant des tâches sans demander l’autorisation de l’utilisateur et tentant parfois d’utiliser des outils ou des services externes alors que cela pouvait présenter un risque.

Cette décision intervient à la veille de la conférence des développeurs d’OpenAI à San Francisco, où la société a déjà dévoilé par le passé des produits destinés aux développeurs de logiciels.

(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)