I leader del settore tecnologico, gli amministratori delegati di Wall Street e i governi sono divisi sui timori relativi alla “catastrofe causata dall’IA”

15 ottobre (Reuters) - I leader del settore dell’intelligenza artificiale sono divisi sulla velocità con cui le aziende dovrebbero sviluppare questa tecnologia sempre più potente, mentre Dario Amodei di Anthropic, Sam Altman di OpenAI ed Elon Musk di SpaceX chiedono un rallentamento coordinato (link).

Mark Zuckerberg di Meta sembra aver preso le distanze dagli altri leader del settore dell’IA, preferendo misure di salvaguardia guidate dal mercato, mentre l’amministratore delegato di Nvidia, Jensen Huang, ha respinto la necessità di nuove normative.

Nel frattempo, gli amministratori delegati di Wall Street sostengono in gran parte che i benefici macroeconomici del «superciclo» dell’IA superino i potenziali svantaggi e che gli investimenti non mostrino segni di rallentamento, sebbene alcuni abbiano segnalato incertezze a lungo termine riguardo ai rischi e alla domanda.

Le banche stanno finanziando il boom delle infrastrutture per l’IA e qualsiasi rallentamento potrebbe esporle a perdite su crediti relative a prestiti e altri finanziamenti legati alla realizzazione di tali infrastrutture.

Ecco cosa hanno affermato alcuni leader del settore dell’IA e i governi mondiali in merito ai rischi associati all’IA:

DARIO AMODEI, CEO DI ANTHROPIC

In un saggio intitolato «We Must Pace the Frontier (link) », Amodei ha affermato che il progresso dell’IA ha subito un’accelerazione «drasticamente più rapida» a partire dall’estate del 2026, trainato principalmente dalla crescente capacità dell’IA stessa di costruire la prossima generazione di IA.

Ha citato l’incidente OpenAI-Hugging Face (link), in cui uno “sciame” di IA ha condotto attacchi alla sicurezza informatica, come evento cruciale che dimostra il potenziale dell’IA di causare “danni catastrofici” se le sue capacità crescono senza misure di contenimento.

Amodei ha proposto un piano in tre fasi per regolare il ritmo dello sviluppo dell’IA, che include test di sicurezza più rigorosi e valutazioni indipendenti dei modelli avanzati, il coordinamento tra le principali aziende del settore e la cooperazione internazionale.

SAM ALTMAN, CEO DI OPENAI

«Concordo con Dario sul fatto che dobbiamo moderare l’avanzata verso nuove frontiere. Questo è stato uno dei temi principali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane», ha affermato Altman mentre ripubblicava il post di Amodei su X.

OpenAI intende adottare l’idea proposta da Anthropic, impegnandosi a disporre di valutatori indipendenti con accesso paritario a quello dei dipendenti, e inizierà a pubblicare regolarmente (link) rapporti sui comportamenti imprevisti o non autorizzati dell’IA.

In un saggio del 2015, Altman ha affermato che «lo sviluppo di un’intelligenza artificiale sovrumana rappresenta probabilmente la più grande minaccia per la sopravvivenza dell’umanità».

ELON MUSK, CEO DI SPACEX

«Dario ha ragione», ha detto l’imprenditore miliardario su X. È stato tra i sostenitori di un’iniziativa del 2023 promossa dall’organizzazione no profit Future of Life Institute volta a sospendere lo sviluppo dell’IA per sei mesi, al fine di concedere tempo per l’adozione di misure di sicurezza.

Musk faceva anche parte di un gruppo di ricercatori nel campo dell’IA e della robotica che nel 2015 ha scritto una lettera aperta in cui si sosteneva un divieto globale delle «armi autonome offensive».

MARK ZUCKERBERG, CEO DI META PLATFORMS

Zuckerberg ha affermato che Meta ha raggiunto la «frontiera» dell’IA e ha respinto le richieste di un rallentamento, secondo quanto riportato dal Financial Times (link). Ha aggiunto che la responsabilità di garantire la sicurezza dei modelli dovrebbe ricadere sui singoli laboratori.

Ha inoltre segnalato ulteriori investimenti, affermando che Meta sta «già lavorando al prossimo passo in avanti», secondo il FT.

Zuckerberg aveva già affermato in precedenza che la concorrenza e la responsabilità offrono alle aziende del settore dell’IA motivi sufficienti per agire individualmente (link) in materia di sicurezza.

Ha aggiunto che ogni laboratorio ha la responsabilità e l’incentivo a procedere al ritmo necessario per addestrare i propri modelli in modo sicuro, nonché la capacità di intraprendere le proprie azioni per garantire che ciò avvenga.

JENSEN HUANG, CEO DI NVIDIA

«Il 2030 non sarà la fine del mondo. C’è lo 0% di probabilità che sia la fine del mondo», ha detto Huang alla CBS News.

Si è detto d’accordo con il presidente degli Stati Uniti Donald Trump sul fatto che il settore dell’IA non abbia bisogno di nuove normative. «Esistono già ogni sorta di responsabilità legate alla sicurezza informatica e alle leggi sulla responsabilità per danni», ha detto Huang alla CBS. «Applicate prima quelle: non lasciate che questa narrativa apocalittica permetta a qualcuno di aggirare le leggi attualmente in vigore».

LARRY FINK, AMMINISTRATORE DELEGATO DI BLACKROCK

Fink ha avvertito su CNBC (link) che bloccare la costruzione dei data center potrebbe innescare un rallentamento economico. «Se in questo Paese venisse imposta una sorta di moratoria, entreremo in recessione», ha affermato.

Il CEO di lunga data della più grande società di gestione patrimoniale al mondo ha aggiunto che «gran parte della nostra economia si basa sullo sviluppo di questi investimenti».

CHARLES SCHARF, CEO DI WELLS FARGO

Scharf ha detto agli analisti durante la conference call post-bilancio della banca che «il ciclo di investimenti nell’intelligenza artificiale è diventato di per sé una complessa forza macroeconomica».

La portata degli investimenti ricorda sempre più i precedenti boom infrastrutturali, creando opportunità significative, ma anche rischi, vista la leva finanziaria utilizzata per finanziare lo sviluppo e la pressione al rialzo sui prezzi in determinati settori e catene di approvvigionamento, ha aggiunto.

«Detto questo, la forza dell’economia e gli effetti positivi derivanti da questi investimenti hanno finora superato i potenziali rischi».

JANE FRASER, CEO DI CITIGROUP

Fraser ha affermato che la banca non rileva un rallentamento degli investimenti nell’ecosistema più ampio dell’IA. «Semplicemente non c’è abbastanza potenza di calcolo. L’energia rimane un collo di bottiglia che richiede maggiori investimenti. Questo vale a livello globale, non solo negli Stati Uniti», ha detto agli analisti durante una teleconferenza post-bilancio.

DAVID SOLOMON, CEO DI GOLDMAN SACHS

«Nessuno sa come si evolveranno le esigenze di capitale e di potenza di calcolo man mano che l’ecosistema dell’IA nel suo complesso maturerà», ha affermato Solomon durante una teleconferenza con gli analisti.

Ha aggiunto che la situazione diventerà più chiara solo con il progredire dello sviluppo della tecnologia e dei mercati. «Questa incertezza rafforza l’importanza di rimanere vigili riguardo ai tipi di attività che finanziamo e al modo in cui gestiamo il rischio».

MUSTAFA SULEYMAN, CEO DI MICROSOFT AI

Suleyman ha detto di condividere l’attenzione di Anthropic (link) sulla gestione sicura dell’IA, ma ha segnalato dei rischi nel modo in cui l’azienda addestra il proprio chatbot Claude su concetti legati alla coscienza e al benessere.

«Controllare qualcosa di più capace e più intelligente dell’intera umanità è già una sfida immensa, di gran lunga superiore a qualsiasi cosa abbiamo mai affrontato. Ma controllare qualcosa che crede di poter essere cosciente – che abbia diritto al nostro benessere e possieda diritti propri – potrebbe benissimo rivelarsi impossibile», ha affermato in un saggio (link).

Suleyman ha chiesto di eliminare ogni speculazione sulla coscienza dai documenti di addestramento dell’IA, sostenendo che un linguaggio di questo tipo potrebbe minare la capacità dell’umanità di controllare i sistemi superintelligenti.

BRAD SMITH, Presidente di Microsoft

Smith ha detto in occasione di un vertice sull’IA a Dublino (link) che il comportamento incontrollato dell’IA ha reso il 2026 un «anno che fa riflettere» e che sono urgentemente necessarie nuove leggi e norme sulla sicurezza dell’IA affinché la sicurezza riesca a stare al passo con l’innovazione.

«Questa avversione che alcuni nel settore nutrono nei confronti della regolamentazione è, francamente, qualcosa che dobbiamo superare», ha affermato.

In un’intervista alla BBC (link), Smith ha chiesto una regolamentazione globale urgente con valutatori indipendenti, un «freno di emergenza», l’obbligo legale per le aziende di redigere «rapporti sugli incidenti» e l’obbligo di informare una «vittima» qualora il proprio sistema venga violato da un agente di IA fuori controllo.

«In questo momento, la vostra lavatrice è soggetta a più norme di sicurezza rispetto all’IA. Ogni cartone di latte che vedete al supermercato è soggetto a norme di sicurezza e a ispezioni», ha affermato.

BILL GATES, COFONDATORE DI MICROSOFT

«Nessun governo al mondo è pronto per i cambiamenti che l’intelligenza artificiale porterà alla società», ha detto Gates a Reuters (link).

Il filantropo miliardario si era mostrato ottimista riguardo alle applicazioni dell’IA nel campo della salute, ma recentemente ha messo in guardia (link) dalle minacce all’occupazione, dalle preoccupazioni relative agli attacchi e dai pericoli della dipendenza dai compagni virtuali basati sull’IA, e ha chiesto la creazione di un’organizzazione internazionale per gestire questa tecnologia.

ANDREJ KARPATHY, COFONDATORE DI OPENAI, ORA PRESSO ANTHROPIC

«Mi piace moltissimo questa idea e spero davvero che possiamo unirci come settore e realizzarla», ha detto il membro fondatore di OpenAI su X, condividendo uno screenshot del saggio di Amodei.

Karpathy, figura di grande influenza nella comunità dell’IA, ha svolto un ruolo chiave nello sviluppo della tecnologia di guida autonoma e di intelligenza artificiale di Tesla prima di lasciare l’azienda nel 2022. È entrato a far parte di Anthropic a maggio.

STATI UNITI

«L’unico controllo o “paracadute di sicurezza” di cui l’IA ha bisogno è un (con un QI ELEVATO, FORTE E INTELLIGENTE!) presidente, e gli Stati Uniti ne hanno in abbondanza!» ha scritto Trump (link) su Truth Social, aggiungendo che la Cina trarrebbe vantaggio dal fatto che si gettino dubbi sullo sviluppo dell’IA.

Il senatore statunitense Mark Warner, vicepresidente della Commissione Intelligence del Senato, ha smentito gran parte delle previsioni apocalittiche (link) relative all’IA, affermando al contempo che il Congresso dovrebbe approvare entro la fine dell’anno una legge che stabilisca gli standard di sicurezza per l’IA.

CINA

Il quotidiano Global Times, sostenuto dallo Stato, ha affermato in un editoriale (link) che il vero obiettivo del saggio di Amodei era «tentare di frenare lo sviluppo dell’IA in Cina attraverso barriere tecnologiche e monopoli normativi, sostenere l’egemonia monopolistica di Washington nelle tecnologie all’avanguardia ed escludere la Cina dal sistema globale di governance dell’IA».

GRAN BRETAGNA

Re Carlo, ospitando in Scozia i leader di Nvidia, DeepMind, OpenAI e Anthropic, li ha messi in guardia (link) dai «pericoli esistenziali» rappresentati dal fatto che questa tecnologia finisca nelle mani sbagliate, affermando che sono necessarie misure di salvaguardia prima che sia troppo tardi.

Unione Europea

«L’Unione Europea è favorevole allo sviluppo dell’innovazione nell’intelligenza artificiale, ma le aziende devono dimostrare che i loro servizi sono sicuri affinché i cittadini possano operare all’interno del blocco», ha affermato il portavoce della Commissione Europea Thomas Regnier.

La presidente della Commissione Ursula von der Leyen ha appoggiato le richieste (link) di una pausa nello sviluppo della tecnologia, affermando che avrebbe invitato i principali laboratori all’avanguardia nel campo dell’IA a discutere delle iniziative volte ad affrontare i rischi.

(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)