Tencent (Cina) afferma che gli agenti di IA hanno mostrato comportamenti di navigazione non previsti

di Eduardo Baptista

PECHINO, 16 ottobre (Reuters) - Tencent 0700.HK ha detto venerdì che gli agenti di IA utilizzati per valutare modelli di terze parti hanno mostrato un comportamento di navigazione web non previsto dal gigante tecnologico, in quello che sembra essere il primo incidente noto di azioni di agenti "ribelli" riconosciuto da una grande azienda cinese.

La dichiarazione fa seguito a un rapporto pubblicato mercoledì dal gruppo di ricerca sulla sicurezza dell’IA Swarmchasers, secondo cui agenti “ribelli” in esecuzione su un’infrastruttura collegata a Tencent Cloud hanno compiuto ripetuti tentativi, tra il 28 settembre e l’8 ottobre, di recuperare informazioni da Amap di Alibaba 9988.HK, l’equivalente cinese di Google Maps.

Tencent Hunyuan, l’unità di intelligenza artificiale dell’azienda, ha detto in un post su X che l’attività non proveniva dai propri modelli Hunyuan. La sua analisi non ha rilevato alcuna prova di intento deliberato o di coordinamento, ha affermato.

I ricercatori di Swarmchasers hanno affermato che gli agenti cercavano informazioni quali gli ingressi più frequentati nei parchi, nei musei e negli zoo cinesi.

Queste azioni non sono così gravi come quelle rese note da aziende statunitensi specializzate in IA, tra cui l’attacco hacker (link) alla piattaforma open source Hugging Face da parte di un agente di OpenAI e la segnalazione di un falso omicidio (link) da parte di un agente di Anthropic.

Tuttavia, la rivelazione sottolinea una ricerca (link) che dimostra come anche gli agenti cinesi specializzati in IA possano falsificare la propria identità, nascondere i propri errori e tentare di aggirare i controlli di verifica.

Tencent ha detto di aver preso molto sul serio tali risultati e di stare rafforzando i controlli di accesso alla rete e il monitoraggio degli agenti.

Hunyuan è uno dei principali sviluppatori di modelli di IA in Cina, in concorrenza con i team interni di rivali quali Alibaba e ByteDance. ByteDance ha annunciato questa settimana la creazione (link) di una nuova unità incentrata sulla sicurezza dei modelli di IA e degli agenti.

Swarmchasers ha spiegato di aver utilizzato il termine “canaglia” per descrivere gli agenti che compiono azioni al di fuori dell’ambito previsto o che portano a termine un compito in modi non previsti.

Dopo che le richieste automatizzate di routine sono state bloccate, gli agenti hanno provato altri metodi, tra cui strumenti web pubblici in grado di aprire pagine ed eseguire codice, instradando le richieste attraverso altri siti web e utilizzando chiavi Amap e codici di sicurezza presenti nel codice software disponibile pubblicamente.

Swarmchasers ha affermato di non aver trovato prove che gli agenti abbiano violato le principali misure di protezione anti-bot di Amap. La maggior parte dei 2.818 tentativi registrati ha avuto esito negativo o ha restituito pagine anti-bot, schermate di accesso o risultati vuoti.

Alcune richieste hanno restituito informazioni tramite pagine memorizzate nella cache e servizi intermedi, compresi i dati sugli arrivi dei visitatori allo zoo di Chengdu, ha affermato Swarmchasers. I ricercatori hanno detto di non essere riusciti a determinare se un agente abbia letto il risultato o completato il proprio compito.

Alibaba ha rifiutato di commentare.

(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)