Quest’estate, generando un po’ di clamore, il governo statunitense, invocando ragioni di sicurezza nazionale, ha imposto ad Anthropic di sospendere l’accesso a Claude Fable 5 e Mythos 5 per qualsiasi cittadino straniero, dentro o fuori dagli Stati Uniti, compresi i dipendenti stranieri dell’azienda. Non avendo un modo affidabile per verificare la nazionalità degli utenti in tempo reale, Anthropic ha sospeso i due modelli per tutti, fino alla revoca dei controlli. Per evitare che questo accada nuovamente, Anthropic avrebbe sottoposto ai legislatori di Washington una bozza di legge federale che restringerebbe significativamente i casi in cui il governo può fermare un modello di intelligenza artificiale.

Segui TuttoTech.net su Google Discover

Pubblicità-14%Apple iPhone 17 Pro Max
Amazon
Apple iPhone 17 Pro Max
1.279€1.489€
Vai all'offerta

Cosa prevede l’accordo

In base alla bozza del testo, il governo potrebbe bloccare i modelli IA più avanzati in circolazione, soltanto davanti a un rischio prevedibile e imminente di danni superiori a un miliardo di dollari, oppure di oltre 50 tra morti e feriti gravi. Le minacce considerate sarebbero tre, ovvero la creazione o il rilascio di un’arma biologica, un modello che sfugge al controllo di chi lo ha sviluppato e un attacco informatico.

La bozza imporrebbe agli sviluppatori di dotarsi di framework di sicurezza, pubblicare rapporti di trasparenza per ogni nuovo modello, tutelare chi segnala irregolarità e comunicare gli incidenti critici al Dipartimento del Commercio. Il rispetto degli obblighi verrebbe verificato da valutatori indipendenti registrati presso lo stesso dipartimento, che esaminerebbero periodicamente aziende e modelli. I laboratori potrebbero retribuirli, a patto che il compenso non dipenda dall’esito delle valutazioni, e un rischio imminente tra quelli previsti andrebbe notificato entro 72 ore. Il passaggio più delicato riguarda chi avrebbe il potere di intervenire. Il Dipartimento del Commercio non potrebbe fermare un modello da solo, ma dovrebbe chiedere un’ordinanza al tribunale federale del Distretto di Columbia. Nessun altro dipartimento, agenzia o funzionario federale potrebbe sospendere sviluppo, distribuzione o uso interno di un modello.

Dubbi e critiche

La bozza prevarrebbe su alcune norme statali, in particolare quelle sulla comunicazione pubblica dei rischi, sulle valutazioni indipendenti e sulla segnalazione degli incidenti critici. È un tipo di proposta a cui i Democratici si sono già opposti in passato. A giugno, invece, Anthropic sosteneva che gli Stati dovessero mantenere piena autorità di legiferare in assenza di una legge federale solida. Le reazioni sono divise. Charlie Bullock, dell’Institute for Law & AI, ha giudicato la bozza “piuttosto ragionevole” e più avanzata di quanto fatto da altri laboratori, pur ritenendola più debole del FRONTIER Act. Politico osserva però che nessuno degli incidenti segnalati finora sembra aver causato oltre un miliardo di dollari di danni o vittime su larga scala, e quindi nessuno avrebbe superato la soglia. Il legale Jay Shooster ha bollato il testo come scandaloso e inaccettabile, mentre Matt Spence, in passato al Pentagono, ha scritto su X che la bozza impedirebbe di fatto di agire contro quasi ogni rischio esistenziale imprevisto, limitando i poteri del governo ai soli ambiti informatico e biologico.