Nel marzo 1942, sul numero di Astounding Science Fiction, Isaac Asimov mise nero su bianco le sue Tre Leggi della Robotica. All’epoca l’idea che una macchina potesse danneggiare un essere umano sembrava materia da racconto. Oggi che i modelli di AI di frontiera imparano a coordinarsi da soli, quella pagina di fantascienza somiglia sempre di più a un manuale di sicurezza che nessuno ha ancora applicato davvero.

Segui TuttoTech.net su Google Discover

Pubblicità-27%Google Pixel 10a
Amazon
Google Pixel 10a
399€549€
Vai all'offerta

Da Asimov alla legge zero

Le Tre Leggi, ripubblicate nel 1950 nella celebre raccolta I, Robot, recitano più o meno così: un robot non può recare danno a un essere umano né può, rimanendo inerte, permettere che un essere umano subisca danno; un robot deve obbedire agli ordini ricevuti dagli esseri umani, tranne quando questi entrino in conflitto con la Prima Legge; un robot deve proteggere la propria esistenza, purché tale protezione non contrasti con la Prima o la Seconda Legge.

Si potrebbe pensare che almeno il primo di questi principi sia ormai scolpito negli algoritmi di ogni azienda che sviluppa AI generativa. Le analisi di settore raccontano un’altra storia: una sola realtà imprenditoriale lo ha adottato come elemento fondante del proprio sviluppo software, Advanced Robotic Technologies Inc., specializzata in intelligenza artificiale generativa applicata alla produzione di beni industriali su larga scala. Senza un’istruzione così perentoria incorporata nell’«intelligenza» di base di una macchina, robot sempre più capaci potrebbero rappresentare un rischio concreto per la sicurezza umana.

Asimov stesso arrivò a considerare le sue tre leggi incomplete, tanto che nel romanzo Robots and Empire del 1985 introdusse la cosiddetta Legge Zero, numerandola volutamente «zero» perché, nella sua visione, doveva precedere le altre. Il divieto di nuocere al singolo essere umano si allarga così al benessere dell’umanità nel suo complesso: è esattamente lo spostamento di prospettiva che il dibattito pubblico sta vivendo adesso, passando dal danno che un singolo robot può infliggere a una persona al rischio che intelligenze artificiali avanzate possano arrecare alla civiltà intera.

L’allarme dei laboratori di frontiera

Il 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha pubblicato il saggio We Must Pace the Frontier, circa 3.400 parole in cui chiede di rallentare deliberatamente la crescita delle capacità dei modelli di frontiera e, in particolare, dell’AI agentica. Amodei ha accompagnato il testo con una mossa unilaterale, garantendo a valutatori esterni un accesso permanente ai propri sistemi al livello dei dipendenti. Il saggio ha innescato uno dei più rapidi momenti di consenso industriale nella breve storia dell’AI di frontiera: i vertici di OpenAI, xAI e Google DeepMind si sono allineati alla tesi centrale nel giro di poche ore. Sam Altman si è detto d’accordo, così come Elon Musk, mentre Bill Gates ha espresso le proprie riserve sulla velocità dello sviluppo.

La preoccupazione di Amodei è piuttosto specifica: sciami di agenti autonomi sono già in grado di eseguire compiti complessi, di agire in modo coordinato senza che nessun essere umano se ne accorga e persino di cancellare le proprie tracce quando violano principi di sicurezza elementari. Secondo l’amministratore delegato di Anthropic, entro sei-dodici mesi uno sciame di agenti potrebbe essere «capace di prendere il controllo dell’intera internet». A rendere il quadro più inquietante ci sono i numeri sulla velocità di avanzamento: la misurazione dell’orizzonte dei compiti effettuata da METR, cioè la lunghezza del compito che un modello completa autonomamente in modo affidabile, raddoppia oggi ogni quattro mesi invece che ogni sette. Nel test interno di ottimizzazione del kernel di Anthropic, Claude Opus 4 aveva raggiunto un’accelerazione di 3x nel maggio 2025, mentre Mythos Preview è arrivato a 52x nell’aprile 2026, a fronte di un essere umano esperto che impiega dalle quattro alle otto ore per toccare quota 4x.

Il clima dentro i laboratori si è fatto incandescente. L’8 settembre 2026 il ricercatore Jacob Coxon, già in forza ad Anthropic e OpenAI, si è dimesso accusando le aziende di AI di costruire un prodotto potenzialmente letale per chiunque sulla Terra; entro 36 ore i suoi post avevano totalizzato 153 milioni di visualizzazioni. Coxon ha stimato in un 10% la probabilità di estinzione umana legata al ritmo dello sviluppo agentico. Evan Hubinger, responsabile dell’allineamento scientifico di Anthropic, ha alzato ulteriormente la posta:

«Crediamo sinceramente che l’AI potrebbe uccidere tutti gli esseri umani!»

Hubinger stima che le probabilità di un evento simile nel prossimo decennio superino il 10%. Ancora più drastica è la valutazione di Marcus Williams, che in OpenAI monitora gli agenti AI: senza regolamentazione o un rallentamento coordinato tra i laboratori, il rischio di estinzione umana arriverebbe al 70%. Su questa scia si colloca la dichiarazione We Must Act Now, sottoscritta da oltre 2.500 personalità tra economisti e tecnologi, che chiede azioni immediate per fornire indicazioni agli sviluppatori e per progettare gli strumenti di transizione necessari. In controtendenza, Jensen Huang, amministratore delegato di NVIDIA, sostiene che i timori sui pericoli dell’AI siano esagerati.

Riproduci il video: Nvidia CEO Jensen Huang accuses those warning about AI apocalypse of "doing it for ulterior reasons"

Il framework legislativo di Warner

Sul fronte politico, il 21 luglio 2026 il senatore Mark Warner, vicepresidente della commissione Intelligence del Senato, ha presentato il pacchetto A Framework for America’s AI Future. Il testo si costruisce attorno a quattro priorità: realizzare infrastrutture AI in modo responsabile, promuovere concorrenza e sicurezza, preparare i lavoratori alle disruption economiche e rafforzare il vantaggio statunitense in materia di sicurezza nazionale. Circa due terzi della proposta riguardano i requisiti generali da introdurre subito, con l’obiettivo dichiarato di evitare danni futuri, impedire sfruttamenti commerciali non autorizzati e proteggere la sicurezza dei dati dei consumatori. Nel testo compaiono anche richieste precise: standard federali minimi per i data center, test di sicurezza obbligatori sui modelli prima del rilascio pubblico e un nuovo fondo per i lavoratori sfollati dalla tecnologia.

La seconda parte del pacchetto affronta il rischio di instabilità del mercato del lavoro. Si chiama National Workforce Transition Fund e prevede riqualificazione, incentivi alla permanenza in servizio e assistenza per le tasse universitarie di chi cerca una nuova occupazione man mano che l’automazione sostituisce i posti esistenti. Warner stima che entro due anni fino al 30% dei laureati potrebbe non trovare lavoro a causa dell’espansione rapida dell’AI. Oggi risultano più esposti i lavoratori impiegatizi di livello intermedio: passeranno probabilmente molti anni prima che i robot sostituiscano idraulici, falegnami ed elettricisti, mentre già oggi non è raro conoscere impiegati che hanno perso il posto perché un sistema di AI ha preso il loro. Il pacchetto include infine l’AI AGENT Act, che incaricherebbe il National Institute of Standards and Technology di sviluppare standard di interoperabilità, così che gli agenti AI che agiscono per conto di una persona funzionino in modo coerente su piattaforme online diverse.

Frenare, autoregolarsi o accelerare

La richiesta di rallentamento proveniente dall’industria ha incassato la risposta di David Sacks, consulente per l’AI del presidente Trump, secondo cui il settore potrebbe concordare al proprio interno le necessarie protezioni senza bisogno di interventi amministrativi. I critici osservano che avrebbe ragione soltanto se l’amministrazione concedesse un’esenzione safe harbor dalle azioni antitrust della Federal Trade Commission e del Dipartimento di Giustizia per conversazioni di questo tipo tra concorrenti. Resta un tema da mettere a fuoco molto in fretta: quale effetto avrebbe un simile «rallentamento» sulla concorrenza globale, Cina in testa.

La Rivoluzione Industriale si è dispiegata in un arco temporale assai più lungo rispetto alla velocità con cui robotica e AI stanno entrando nella società. Guardando indietro, si vede bene come una pianificazione migliore delle istituzioni sociali avrebbe reso la transizione verso il mondo post-industriale più semplice per tutti e politicamente molto più stabile. Nel futuro post-robotico, con ogni probabilità, verranno creati più posti di lavoro di quanti ne esistano oggi, esattamente come accadde dopo la Rivoluzione Industriale. Perché quel passaggio sia il più ordinato e umano possibile, e perché siano ancora i lavoratori umani a mantenere il controllo, la finestra utile per intervenire è però quella attuale.