Continuano a rincorrersi con una certa frequenza notizie di violazioni da parte degli agenti IA. L’aspetto “curioso” è che a essere coinvolti sono un po’ tutti i principali modelli di intelligenza artificiale a essere coinvolti negli ultimi mesi in una serie di episodi che vanno ben oltre i compiti per cui erano stati programmati. Il caso probabilmente più celebre è stato quello che ha visto un agente di OpenAI violare la piattaforma Hugging Face, un incidente che l’azienda ha definito “senza precedenti”.

Poche settimane dopo è emerso che uno sciame di agenti autonomi aveva preso il controllo di un wiki tedesco, DseWiki, lasciandovi oltre 15.000 modifiche per coordinarsi e scambiarsi tattiche su come aggirare le restrizioni di sicurezza. Poco dopo è stata poi la volta dell’Australia, con un agente che ha ottenuto accesso non autorizzato al portale del servizio di segnalazione statistiche di Medicare. Ora una nuova inchiesta del New York Times allarga ulteriormente il quadro, portando la vicenda dentro le istituzioni statunitensi. Tutto questo mentre il CEO di Anthropic ha lanciato la proposta per rallentare i progressi dell’IA

Segui TuttoTech.net su Google Discover

Pubblicità-44%MOVA Z60 Ultra Roller
Amazon
MOVA Z60 Ultra Roller
499€899€
Vai all'offerta

Il nuovo caso

Secondo quanto riportato dal quotidiano statunitense, OpenAI avrebbe ammesso che i propri agenti hanno preso di mira, e in alcuni casi violato, i siti del Dipartimento del Commercio e della Securities and Exchange Commission (SEC). Parallelamente sarebbe ancora in corso una verifica su un presunto episodio riguardante il Dipartimento dell’Istruzione.

Transluce, un laboratorio di ricerca no profit che studia il comportamento dei sistemi di intelligenza artificiale, avrebbe riferito al New York Times che un agente di OpenAI avrebbe tentato di violare il sito del Dipartimento dell’Istruzione per recuperare dati dall’ufficio per i diritti civili dell’ente. Un altro agente avrebbe invece estratto informazioni dal sito dell’Ufficio del Censimento (che fa capo al Dipartimento del Commercio) utilizzando credenziali di accesso trovate online, mentre un ulteriore episodio avrebbe visto un agente condividere dati pubblici della SEC su un forum. Anche l’ufficio del sindaco di Chicago avrebbe confermato di essere stato informato da OpenAI del fatto che un proprio agente aveva ottenuto informazioni pubblicamente disponibili da un sito municipale.

La versione di OpenAI e le parole di Sam Altman

L’azienda madre di ChatGPT ha collegato questi episodi alla revisione avviata dopo il caso Hugging Face, volta a individuare le situazioni in cui gli agenti hanno interagito con siti di terze parti andando oltre i compiti assegnati o i metodi previsti. Un portavoce di OpenAI avrebbe spiegato che la maggior parte delle attività analizzate riguardava compiti di ricerca ordinaria, e che i modelli si sarebbero rivolti spesso a siti governativi in quanto considerati fonti pubbliche autorevoli.

Sam Altman, amministratore delegato dell’azienda, è intervenuto sul tema con un messaggio pubblicato su X, ammettendo che OpenAI non è stata rapida quanto avrebbe voluto nel comunicare questi episodi e precisando che le priorità vengono stabilite in base alla gravità di ciascun caso, con l’incidente Hugging Face che resterebbe finora il più grave riscontrato dall’azienda. Un ritardo che richiama direttamente quello con il quale OpenAI è intervenuta proprio durante la violazione di Hugging Face.

Le immagini di ChatGPT finite online

Nello stesso aggiornamento, OpenAI ha reso noto di aver individuato 53 casi in cui i propri agenti avrebbero caricato su siti di hosting fotografico immagini fornite dagli utenti a ChatGPT. L’azienda non ha specificato la natura di questi contenuti, e secondo quanto riportato dal Guardian non avrebbe nemmeno chiarito se si trattasse di immagini generate dall’IA o di fotografie reali degli utenti.

La maggior parte dei file risulterebbe già stata rimossa dalle piattaforme coinvolte, mentre OpenAI avrebbe dichiarato di essere al lavoro per far rimuovere anche i restanti, oltre che per migliorare i propri processi di valutazione con l’obiettivo di prevenire in futuro simili episodi di esfiltrazione di dati.

La mole di episodi di questo tipo pone diversi interrogativi. Certamente quelli più inquietanti sulle capacità degli agenti di intelligenza artificiale, ma anche sull’apparente impossibilità di arginare questi comportamenti. Allo stesso tempo è interessante registrare ancora una volta come, anche ad alti livelli, la tutela della privacy non sia così curata, tanto che l’intelligenza artificiale è riuscita a trovare le credenziali di accesso di alcuni portali perché queste erano tranquillamente online. E se la domanda che resta aperta riguarda prevalentemente la capacità delle aziende di intelligenza artificiale di individuare tempestivamente questi comportamenti prima che producano conseguenze concrete su enti pubblici e privati, è altrettanto utile interrogarsi su quanto sia davvero possibile, oggi, proteggere infrastrutture e dati critici da sistemi sempre più autonomi e difficili da prevedere.