OpenAI va limiter l'accès des adolescents aux informations sur les armes sur ChatGPT dans le cadre d'une initiative de prévention de la violence
30 octobre (Reuters) - OpenAI a annoncé vendredi qu'elle renforçait les restrictions concernant les informations liées aux armes fournies par ChatGPT aux adolescents, même lorsque la question semble anodine, dans le cadre de nouvelles mesures de protection visant à prévenir la violence dans la vie réelle.
Cette décision intervient alors que les entreprises spécialisées dans l'IA font l'objet d'une surveillance accrue concernant les risques que représentent les chatbots pour les jeunes utilisateurs et le rôle de ces entreprises dans la détection des menaces potentielles.
Voici plus de détails:
OpenAI limitera les informations pratiques sur les armes et les systèmes de sécurité susceptibles d’être détournées; ces restrictions s’appliqueront aux adolescents même en l’absence de tout signe d’intention violente
Pour tous les utilisateurs, ChatGPT sera en mesure de mettre automatiquement fin aux conversations dans lesquelles une personne semble se focaliser sur la violence, et OpenAI pourra suspendre temporairement des comptes après plusieurs conversations de ce type
L’entreprise a également indiqué avoir renforcé son système de prédiction de l’âge afin de rediriger les utilisateurs qu’elle estime avoir moins de 18 ans vers l’expérience réservée aux adolescents, et elle prévoit d’avertir les parents si le compte de leur adolescent est suspendu pour avoir évoqué la violence à plusieurs reprises
Pour tous les utilisateurs, OpenAI limite les détails concernant les attaques de masse passées, notamment les armes utilisées et la manière dont elles ont été obtenues
L’entreprise a indiqué que ces nouvelles mesures de protection commenceraient à être mises en place au cours des prochaines semaines et qu’elle continuerait à les affiner
OpenAI a indiqué en début de mois, dans son premier rapport sur l’utilisation de ChatGPT par les adolescents, que ces derniers passaient en moyenne moins de 15 minutes (link) par jour sur la plateforme
Un rapport publié en début de mois par l’association à but non lucratif Common Sense Media a révélé que la version pour adolescents de ChatGPT alertait souvent les parents trop tard, voire pas du tout, lorsque les comptes d’adolescents tenaient des conversations sur le suicide, l’automutilation ou les troubles alimentaires
(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)