OpenAI limiterà le informazioni sulle armi accessibili agli adolescenti su ChatGPT nell'ambito di un'iniziativa volta alla prevenzione della violenza
30 ottobre (Reuters) - Venerdì OpenAI ha detto che sta inasprendo i limiti sulle informazioni relative alle armi fornite da ChatGPT agli adolescenti, anche quando una domanda sembra innocua, nell’ambito di nuove misure di sicurezza volte a prevenire episodi di violenza nel mondo reale.
Questa decisione arriva in un momento in cui le aziende che operano nel settore dell’intelligenza artificiale sono sottoposte a un crescente scrutinio riguardo ai rischi che i chatbot comportano per i giovani utenti e al ruolo delle aziende stesse nell’individuare potenziali minacce.
Ecco ulteriori dettagli:
OpenAI limiterà le informazioni pratiche su armi e sistemi di sicurezza che potrebbero essere utilizzate in modo improprio; tali restrizioni si applicheranno agli adolescenti anche in assenza di segni evidenti di intenzioni violente
Per tutti gli utenti, ChatGPT potrà interrompere automaticamente le chat in cui qualcuno sembra ossessionato dalla violenza, e OpenAI potrà sospendere temporaneamente gli account dopo il ripetersi di tali conversazioni
L’azienda ha inoltre detto di aver potenziato il proprio sistema di previsione dell’età per indirizzare gli utenti che ritiene abbiano meno di 18 anni verso l’esperienza dedicata agli adolescenti, e prevede di avvisare i genitori qualora l’account dei loro figli venga sospeso per aver discusso ripetutamente di violenza
Per tutti gli utenti, OpenAI limiterà i dettagli relativi ad attacchi di massa avvenuti in passato, comprese le armi utilizzate e le modalità con cui sono state ottenute
L’azienda ha detto che le nuove misure di sicurezza inizieranno a essere implementate nelle prossime settimane e che continuerà a perfezionarle
All’inizio di questo mese, nel suo primo rapporto sull’utilizzo da parte degli adolescenti, OpenAI ha detto che questi ultimi trascorrono in media meno di 15 minuti al giorno su ChatGPT (link)
Un rapporto pubblicato all’inizio di questo mese dall’organizzazione no profit Common Sense Media ha rilevato che la versione per adolescenti di ChatGPT spesso avvisava i genitori in ritardo o non li avvisava affatto quando gli account degli adolescenti intrattenevano conversazioni su suicidio, autolesionismo o disturbi alimentari
(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)