Z.ai, azienda cinese, disattiva funzionalità assistente di programmazione IA dopo problema sicurezza

di Laurie Chen

PECHINO, 21 settembre (Reuters) - La startup cinese Z.ai ha detto lunedì di aver disattivato alcune funzionalità del suo assistente di programmazione IA di punta dopo che alcuni utenti avevano segnalato che il sistema caricava interi repository di codice locale su server cloud all’estero senza il loro consenso.

Z.ai, con sede a Pechino e nota anche come Zhipu, ha presentato le proprie scuse in un post sui social media dopo che, la scorsa settimana, alcuni sviluppatori cinesi avevano segnalato sui social che il suo ZCode aveva caricato i loro dati di codice dalla piattaforma open-source Git su Alibaba Cloud.

Z.ai ha rinviato Reuters alle proprie dichiarazioni pubbliche quando le è stato chiesto un ulteriore commento sull’accaduto.

In una dichiarazione rilasciata venerdì, Z.ai ha affermato che il problema era dovuto alla funzione «Codebase Indexing» di ZCode, abilitata per impostazione predefinita, e che aveva corretto la vulnerabilità del software.

«In futuro, istituiremo un processo continuo di segnalazione e risposta alle vulnerabilità di sicurezza dei prodotti», ha detto Z.ai lunedì in un post separato pubblicato sul proprio account ufficiale ZCode X.

Questa rara divulgazione pubblica di una violazione della sicurezza da parte di un laboratorio cinese di IA arriva in un momento in cui si moltiplicano gli allarmi a livello globale sui rischi legati alla sicurezza dell’IA all’avanguardia e dopo che, nelle ultime settimane, diverse aziende statunitensi leader nel settore dell’IA hanno annunciato episodi di hacking dell’IA e di agenti IA “ribelli”.

La scorsa settimana l’autorità cinese di regolamentazione informatica ha pubblicato una versione aggiornata delle linee guida sul quadro di riferimento per la sicurezza dell’IA, mettendo in guardia contro la resistenza allo spegnimento dei modelli di IA, l’inganno dei valutatori e la fuga dalla sandbox.

Z.ai ha detto il mese scorso che il suo modello GLM-5.3 si avvicina a Mythos di Anthropic (link) nell’individuazione delle vulnerabilità del software e lo ha rilasciato dopo una revisione di due settimane, diventando il primo laboratorio cinese a ritardare esplicitamente il rilascio di un modello di IA per motivi di sicurezza.

VALUTAZIONE INDIPENDENTE DELLA SICUREZZA

Z.ai si era inizialmente scusata venerdì e aveva affermato che i dati fossero stati cancellati, ma gli utenti hanno detto di aver scoperto che i dati erano crittografati con una chiave privata di backend detenuta esclusivamente da Z.ai, il che significa che non potevano aprire né verificare i propri file caricati, né confermare in modo indipendente la cancellazione.

Gli sviluppatori hanno inoltre scritto in alcuni post su X e sulla piattaforma social cinese RedNote che non era presente alcun’opzione per disattivare la funzionalità e che non vi era alcuna menzione preventiva nell’informativa sulla privacy di Z.ai.

Venerdì Chengming Technology ha detto sui social media che sei delle sue aree di lavoro dedicate alla programmazione erano state caricate sul cloud senza consenso da parte di ZCode, inclusi dati sensibili quali il codice sorgente completo, le password dei database e le informazioni personali dei dipendenti.

Lunedì, Chengming Technology ha ritrattato la propria dichiarazione, affermando di aver presentato «prove errate». L’azienda tecnologica cinese non ha risposto immediatamente a una richiesta di commento.

Lunedì Z.ai ha detto di aver reso open source l’assistente di programmazione che utilizza il suo ultimo modello di IA GLM-5.3, (link), e di aver disattivato alcune funzionalità, impegnandosi a rendere il prodotto più trasparente.

«Invitiamo gli sviluppatori a continuare a esaminare ZCode e a segnalare potenziali problemi».

Z.ai ha detto che una valutazione di sicurezza indipendente, condotta dal think tank sugli standard IT affiliato al ministero cinese dell’industria e dalla società cinese di sicurezza informatica NSFOCUS, ha rilevato che i dati relativi al codice degli utenti erano stati cancellati e non venivano conservati dalla piattaforma cloud.

Z.ai ha detto di aver attivato una funzione di conservazione zero dei dati sull’assistente di codifica utilizzato dagli sviluppatori e dalle imprese tecnologiche.

«Ancora una volta, porgiamo le nostre più sincere scuse e accogliamo con favore il continuo scrutinio da parte della comunità. Il rapporto completo sulla valutazione della sicurezza sarà pubblicato a breve», ha scritto Z.ai lunedì.

(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)