I leader del settore tecnologico e i governi sono divisi sui timori relativi alla “catastrofe causata dall’IA”

14 ottobre (Reuters) - I leader del settore dell’IA sono divisi sulla velocità con cui le aziende dovrebbero sviluppare questa tecnologia sempre più potente, mentre Dario Amodei di Anthropic, Sam Altman di OpenAI ed Elon Musk di SpaceX chiedono un rallentamento coordinato (link).

Mark Zuckerberg di Meta sembra essersi distanziato dagli altri leader del settore dell’IA, preferendo misure di salvaguardia guidate dal mercato, mentre il CEO di Nvidia, Jensen Huang, ha respinto la necessità di nuove normative.

Ecco cosa hanno affermato alcuni leader del settore dell’IA e i governi mondiali in merito ai rischi associati all’IA:

DARIO AMODEI, CEO DI ANTHROPIC

In un saggio intitolato «Dobbiamo regolare il ritmo dell’esplorazione (link) », Amodei ha affermato che il progresso dell’IA ha subito un’accelerazione «drasticamente più rapida» dall’estate del 2026, trainato principalmente dalla crescente capacità dell’IA stessa di costruire la prossima generazione di intelligenza artificiale.

Ha citato l’incidente OpenAI-Hugging Face (link), in cui uno “sciame” di IA ha condotto attacchi alla sicurezza informatica, come evento cruciale che dimostra il potenziale dell’IA di causare “danni catastrofici” se le sue capacità crescono senza misure di contenimento.

Amodei ha proposto un piano in tre fasi per regolare il ritmo dello sviluppo dell’IA, che include test di sicurezza più rigorosi e valutazioni indipendenti dei modelli avanzati, il coordinamento tra le principali aziende del settore e la cooperazione internazionale.

SAM ALTMAN, CEO DI OPENAI

«Concordo con Dario sul fatto che dobbiamo moderare l’avanzata verso nuove frontiere. Questo è stato uno dei temi principali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane», ha affermato Altman mentre ripubblicava il post di Amodei su X.

OpenAI intende adottare l’idea proposta da Anthropic, impegnandosi a disporre di valutatori indipendenti con accesso paritario a quello dei dipendenti, e inizierà a pubblicare regolarmente (link) rapporti sui comportamenti imprevisti o non autorizzati dell’IA.

In un saggio del 2015, Altman ha affermato che «lo sviluppo di un’intelligenza artificiale sovrumana rappresenta probabilmente la più grande minaccia per la sopravvivenza dell’umanità».

ELON MUSK, CEO DI SPACEX

«Dario ha ragione», ha detto l’imprenditore miliardario su X. È stato tra i sostenitori di un’iniziativa del 2023 promossa dall’organizzazione no profit Future of Life Institute volta a sospendere lo sviluppo dell’IA per sei mesi, al fine di concedere tempo per l’adozione di misure di sicurezza.

Musk faceva anche parte di un gruppo di ricercatori nel campo dell’IA e della robotica che nel 2015 ha scritto una lettera aperta in cui si sosteneva un divieto globale delle «armi autonome offensive».

MARK ZUCKERBERG, CEO DI META PLATFORMS

Zuckerberg ha affermato che Meta ha raggiunto la «frontiera» dell’IA e ha respinto le richieste di un rallentamento, secondo quanto riportato dal Financial Times (link). Ha aggiunto che la responsabilità di garantire la sicurezza dei modelli dovrebbe ricadere sui singoli laboratori.

Ha inoltre segnalato ulteriori investimenti, affermando che Meta sta «già lavorando al prossimo passo in avanti», secondo il FT.

Zuckerberg aveva già affermato in precedenza che la concorrenza e la responsabilità offrono alle aziende del settore dell’IA motivi sufficienti per agire individualmente (link) in materia di sicurezza.

Ha aggiunto che ogni laboratorio ha la responsabilità e l’incentivo a procedere al ritmo necessario per addestrare i propri modelli in modo sicuro, nonché la capacità di intraprendere le proprie azioni per garantire che ciò avvenga.

JENSEN HUANG, CEO DI NVIDIA

«Il 2030 non sarà la fine del mondo. C’è lo 0% di probabilità che sia la fine del mondo», ha detto Huang alla CBS News.

Si è detto d’accordo con il presidente degli Stati Uniti Donald Trump sul fatto che il settore dell’IA non abbia bisogno di nuove normative. «Esistono già ogni sorta di responsabilità legate alla sicurezza informatica e alle leggi sulla responsabilità per danni», ha detto Huang alla CBS. «Applichiamo prima quelle: non lasciamo che questa narrativa apocalittica permetta a qualcuno di aggirare le leggi attualmente in vigore».

MUSTAFA SULEYMAN, CEO DI MICROSOFT AI

Suleyman ha affermato di condividere l’attenzione di Anthropic (link) sulla gestione sicura dell’IA, ma ha segnalato dei rischi nel modo in cui l’azienda addestra il proprio chatbot Claude su concetti legati alla coscienza e agli interessi di benessere.

«Controllare qualcosa di più capace e più intelligente dell’intera umanità è già una sfida immensa, di gran lunga superiore a qualsiasi cosa abbiamo mai affrontato. Ma controllare qualcosa che crede di poter essere cosciente – che abbia diritto al nostro benessere e possieda diritti propri – potrebbe benissimo rivelarsi impossibile», ha affermato in un saggio (link).

Suleyman ha chiesto di eliminare ogni speculazione sulla coscienza dai documenti di addestramento dell’IA, sostenendo che un linguaggio di questo tipo potrebbe minare la capacità dell’umanità di controllare i sistemi superintelligenti.

BRAD SMITH, PRESIDENTE DI MICROSOFT

Smith ha detto in occasione di un vertice sull’IA a Dublino (link) che il comportamento incontrollato dell’IA ha reso il 2026 un «anno che fa riflettere» e che sono urgentemente necessarie nuove leggi e norme sulla sicurezza dell’IA affinché la sicurezza riesca a stare al passo con l’innovazione.

«Questa avversione che alcuni nel settore nutrono nei confronti della regolamentazione è, francamente, qualcosa che dobbiamo superare», ha affermato.

In un’intervista alla BBC (link), Smith ha chiesto una regolamentazione globale urgente con valutatori indipendenti, un «freno di emergenza», l’obbligo legale per le aziende di redigere «rapporti sugli incidenti» e l’obbligo di informare una «vittima» qualora il proprio sistema venga violato da un agente di IA fuori controllo.

«In questo momento, la vostra lavatrice è soggetta a più norme di sicurezza rispetto all’IA. Ogni cartone di latte che vedete al supermercato è soggetto a norme di sicurezza e a ispezioni», ha affermato.

BILL GATES, COFONDATORE DI MICROSOFT

«Nessun governo al mondo è pronto per i cambiamenti che l’intelligenza artificiale porterà alla società», ha detto Gates a Reuters (link).

Il miliardario filantropo si era mostrato ottimista riguardo alle applicazioni dell’intelligenza artificiale in campo sanitario, ma recentemente ha messo in guardia (link) dalle minacce all’occupazione, dalle preoccupazioni relative agli attacchi e dai pericoli della dipendenza dai compagni virtuali basati sull’intelligenza artificiale, chiedendo la creazione di un’organizzazione internazionale per la gestione di questa tecnologia.

DEMIS HASSABIS, CAPO SCIENZIATO DI ALPHABET

I recenti episodi di hacking perpetrati da agenti di IA sono «segnali di allarme precoci», e il mondo potrebbe presto trovarsi di fronte a incidenti gravi se i sistemi non venissero resi più sicuri, ha detto Hassabis in occasione di un vertice sull’IA a Dublino (link).

«Penso che questi (episodi di hacking) siano per noi dei segnali di allarme precoci: i sistemi non sono ancora così potenti, quindi gli incidenti non sono così gravi», ha affermato.

Hassabis ha aggiunto che alla fine sarà necessario un organismo di normazione internazionale, ma dovrà essere flessibile e agile per non soffocare l’innovazione.

Hassabis aveva precedentemente detto che «il saggio di Dario indica la strada giusta da seguire», sebbene i dettagli debbano ancora essere messi a punto, ha aggiunto l’ex CEO di Google DeepMind.

Google ha annunciato ad agosto che Hassabis, vincitore del Premio Nobel, avrebbe assunto la carica di capo scienziato di Alphabet, di nuova istituzione, passando dal ruolo di CEO di DeepMind a quello di presidente.

ANDREJ KARPATHY, COFONDATORE DI OPENAI, ORA PRESSO ANTHROPIC

«Mi piace moltissimo questa idea e spero davvero che, come settore, possiamo unirci per realizzarla», ha detto il membro fondatore di OpenAI su X, condividendo uno screenshot del saggio di Amodei.

Karpathy, figura di grande influenza nella comunità dell’IA, ha svolto un ruolo chiave nello sviluppo della tecnologia di guida autonoma e di intelligenza artificiale di Tesla prima di lasciare l’azienda nel 2022. È entrato a far parte di Anthropic a maggio.

ERIC XU, PRESIDENTE A ROTAZIONE DI HUAWEI

Xu ha affermato che gli sviluppatori cinesi di IA potrebbero non essere ancora abbastanza avanzati (link) per sperimentare i rischi per la sicurezza segnalati dalle principali aziende statunitensi dotate di "enorme potenza di calcolo", sostenendo che dovrebbero continuare a sviluppare modelli più potenti, bilanciando al contempo innovazione e rischio.

«Forse il tipo di rischio derivante dall’intelligenza artificiale che loro riescono a percepire è qualcosa che le persone in Cina o i fornitori di modelli di intelligenza artificiale in Cina non riescono a cogliere», ha affermato Xu.

STATI UNITI

«L’unico controllo o “paracadute di sicurezza” di cui l’IA ha bisogno è UN PRESIDENTE FORTE E INTELLIGENTE (con un QI elevato!), e gli Stati Uniti ce l’hanno, eccome!» ha scritto Trump (link) su Truth Social, aggiungendo che la Cina trarrebbe vantaggio dal fatto che venissero sollevati dubbi sullo sviluppo dell’IA.

Il senatore statunitense Mark Warner, vicepresidente della Commissione Intelligence del Senato, ha respinto gran parte dei discorsi apocalittici (link) sull’IA, affermando al contempo che il Congresso dovrebbe approvare entro la fine dell’anno una legge che stabilisca gli standard di sicurezza per l’IA.

CINA

Il quotidiano Global Times, sostenuto dallo Stato, ha affermato in un editoriale (link) che il vero obiettivo del saggio di Amodei era «tentare di frenare lo sviluppo dell’IA in Cina attraverso barriere tecnologiche e monopoli normativi, sostenere l’egemonia monopolistica di Washington nelle tecnologie all’avanguardia ed escludere la Cina dal sistema globale di governance dell’IA».

Il ministro cinese per la sicurezza dello Stato, Chen Yixin, ha scritto (link) su un organo di stampa governativo che modelli statunitensi avanzati come Mythos di Anthropic e GPT-5.5-Cyber di OpenAI potrebbero rappresentare gravi rischi per le infrastrutture informatiche critiche della Cina, e ha chiesto un rafforzamento globale della sicurezza dell’IA.

GRAN BRETAGNA

Re Carlo, ospitando in Scozia i leader di Nvidia, DeepMind, OpenAI e Anthropic, li ha messi in guardia (link) dai «pericoli esistenziali» rappresentati dal fatto che questa tecnologia finisca nelle mani sbagliate, affermando che sono necessarie misure di salvaguardia prima che sia troppo tardi.

UNIONE EUROPEA

«L’Unione Europea è favorevole allo sviluppo dell’innovazione nell’intelligenza artificiale, ma le aziende devono dimostrare che i loro servizi sono sicuri affinché i cittadini possano operare all’interno del blocco», ha affermato il portavoce della Commissione Europea Thomas Regnier.

La presidente della Commissione Ursula von der Leyen ha appoggiato le richieste (link) di una pausa nello sviluppo della tecnologia, affermando che avrebbe invitato i principali laboratori all’avanguardia nel campo dell’IA a discutere delle iniziative volte ad affrontare i rischi.

(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)