La vicenda che venerdì ha portato il governo americano a imporre restrizioni sull’esportazione dei modelli di intelligenza artificiale più avanzati di Anthropic si arricchisce di un dettaglio che cambia la prospettiva dell’intera storia. A innescare la catena di eventi sarebbe stato Andy Jassy, amministratore delegato di Amazon, che avrebbe portato direttamente all’attenzione della Casa Bianca le preoccupazioni sulla sicurezza del modello Fable 5. Un fatto che assume un sapore particolare, perché Amazon non è un concorrente qualunque, ma uno dei principali investitori di Anthropic.

Ricapitoliamo l’antefatto. Venerdì Anthropic ha disabilitato l’accesso ai modelli Fable 5 e Mythos 5 per ottemperare a una direttiva del Dipartimento del Commercio, che imponeva di vietarne l’uso a qualsiasi cittadino straniero, dentro e fuori dai confini statunitensi. Per garantire la conformità, l’azienda ha dovuto spegnere bruscamente entrambi i modelli per tutti i suoi clienti nel mondo, comprese banche e agenzie governative che li utilizzavano per compiti complessi. Fable 5, lanciato all’inizio della settimana, era la versione pubblica e con protezioni rinforzate di Mythos, il modello di punta di Anthropic per la sicurezza informatica.

Segui TuttoTech.net su Google Discover

Pubblicità-22%Sony WH-1000XM6
Amazon
Sony WH-1000XM6
349€449€
Vai all'offerta

Il ruolo di Amazon e la catena di eventi

Secondo quanto riportato dal Wall Street Journal e ripreso da numerose testate, sarebbe stato proprio Jassy a contattare il Segretario al Tesoro Scott Bessent e altri funzionari dell’amministrazione, riferendo che alcuni ricercatori di Amazon erano riusciti a forzare le protezioni di Fable 5, ovvero a realizzare un jailbreak, ottenendo informazioni potenzialmente utili a condurre attacchi informatici. Il termine jailbreak indica una tecnica per rimuovere i limiti di sicurezza che un modello di IA impone alle proprie risposte.

La tempistica è serrata. La segnalazione sarebbe partita giovedì, quando i ricercatori di Amazon hanno individuato la falla. Da lì, secondo la ricostruzione di Politico, si sono messe in moto ventiquattro ore vorticose, durante le quali Jassy ha allertato i vertici dell’amministrazione mentre almeno altre cinque aziende inviavano segnalazioni analoghe. I team della Casa Bianca hanno valutato la vulnerabilità e contattato l’amministratore delegato di Anthropic, Dario Amodei. David Sacks, ex responsabile della Casa Bianca per IA e criptovalute e oggi copresidente del consiglio dei consulenti scientifici del presidente, ha dichiarato che l’amministrazione avrebbe chiesto ad Amodei di correggere la falla o di ritirare il modello, ottenendo però un rifiuto. A quel punto è arrivata la decisione sulle restrizioni all’esportazione, con il presidente Donald Trump che avrebbe dato il proprio via libera poco dopo.

Interpellata sulla vicenda, Amazon non ha confermato di aver condotto test di jailbreak sui modelli di Anthropic, ma ha riconosciuto di consultare regolarmente il governo sulle questioni di sicurezza informatica. Un portavoce ha spiegato che, in quanto grande fornitore di servizi cloud al servizio di clienti pubblici e privati, non è insolito che i governi chiedano la sua consulenza sui potenziali rischi, aggiungendo però che l’azienda non condivide i dettagli di queste conversazioni.

La posizione di Anthropic e il nodo dell’investitore

Anthropic, dal canto suo, ha contestato la gravità del problema pur adeguandosi all’ordine. In un comunicato, l’azienda ha spiegato di aver esaminato una dimostrazione del jailbreak, individuando soltanto un piccolo numero di vulnerabilità minori e già note, peraltro presenti anche in altri modelli pubblicamente disponibili. La società ha sostenuto di non condividere l’idea che la scoperta di un jailbreak circoscritto debba giustificare il ritiro di un modello commerciale distribuito a centinaia di milioni di persone, ricordando che una resistenza perfetta a queste tecniche non è al momento tecnicamente possibile, e che il suo approccio si basa su una strategia di difesa a più livelli. Anthropic ha parlato apertamente di un malinteso, dichiarando di essere al lavoro per ripristinare l’accesso il prima possibile.

È qui che la vicenda mostra il suo lato più spinoso. Amazon non è un attore esterno, ma uno dei maggiori finanziatori di Anthropic, e ad aprile la stessa Anthropic si era impegnata a spendere oltre 100 miliardi di dollari in infrastrutture di Amazon Web Services. Che sia stato proprio il principale sostenitore a innescare il blocco dei modelli più avanzati dell’azienda finanziata è un cortocircuito che non è sfuggito agli osservatori, e che online ha generato critiche nei confronti di Jassy, con molti utenti che hanno letto la mossa più come un gesto di interesse competitivo che come una genuina preoccupazione per la sicurezza.

Resta sullo sfondo una questione più ampia, sollevata da Semafor, secondo cui le preoccupazioni dell’amministrazione sarebbero legate anche al timore di un possibile accesso cinese alle capacità di Mythos, sebbene un portavoce di Anthropic abbia precisato che la Casa Bianca non avrebbe sollevato il tema cinese nelle conversazioni sul caso Fable. Quel che è certo è che, per la prima volta, un’azienda di intelligenza artificiale di primo piano è stata costretta a ritirare dal mercato un modello già pubblico per effetto di un intervento governativo, in una storia dove gli interessi industriali, le rivalità competitive e la sicurezza nazionale si intrecciano in modo difficile da districare. Anthropic ha promesso di condividere maggiori dettagli, ma la sensazione è che questo episodio sia solo il primo di una lunga serie di scontri tra chi sviluppa l’IA di frontiera e chi pretende di controllarla.