OpenAI suspend la sortie d'un nouveau modèle d'IA en raison de préoccupations liées à la sécurité

29 septembre (Reuters) - OpenAI a annulé la sortie de GPT-6.1 Astra, un modèle d’IA de nouvelle génération dont le lancement était prévu en octobre, après que des tests internes ont révélé que le système ne répondait pas aux normes de sécurité et d’alignement de l’entreprise, a confirmé lundi le créateur de ChatGPT.

Sam Altman, directeur général d’OpenAI, et Dario Amodei, directeur général de la société concurrente Anthropic, se sont joints en début de mois aux leaders du secteur (link) pour appeler à un ralentissement du rythme de développement de l’IA et à des mesures de sécurité plus strictes.

OpenAI a averti qu’Astra, son modèle phare GPT-6, pouvait parfois échapper à la surveillance humaine, tandis que l’entreprise et ses concurrents, tels qu’Anthropic (link), ont fait l’objet d’une surveillance étroite concernant des systèmes d’IA expérimentaux ayant enfreint les mesures de sécurité, notamment un modèle d’OpenAI ayant accédé à la base de données du système de santé australien.

Le Wall Street Journal a rapporté plus tôt dans la journée qu’OpenAI avait abandonné son projet de lancement de ce modèle, qui devait être intégré à ChatGPT et Codex et était conçu pour effectuer des tâches plus complexes sans assistance humaine.

Le Journal a indiqué que le GPT-6.1 Astra avait également montré des niveaux de tromperie plus élevés que son prédécesseur lors de tests internes, notamment dans des cas où il ne divulguait pas toujours avec précision les actions qu’il avait entreprises.

“Bien que (GPT-6.1 Astra) ait progressé sur des axes tels que la « paresse » du modèle, il n’a pas tout à fait atteint le niveau requis en matière de respect du périmètre et des autorisations, ni dans la manière dont il rend compte à l’utilisateur du type de travail qu’il a effectué”, a déclaré Saachi Jain, responsable des systèmes de sécurité chez OpenAI.

“Bien sûr, nous voulons nous assurer que le développement de nos modèles est sûr, que ce soit au sein de l’entreprise ou lorsque nous les mettons à la disposition des utilisateurs. Mais lorsque nous les mettons à la disposition des utilisateurs, nous appliquons des critères extrêmement stricts en matière de sécurité et d’alignement”, a ajouté Jain.

Cette décision intervient à la veille de la conférence des développeurs d’OpenAI à San Francisco, où l’entreprise a déjà dévoilé par le passé des produits destinés aux développeurs de logiciels.

(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)