Anthropic cambia rotta e Dario Amodei chiede regole più severe per l’IA

Negli ultimi anni il dibattito sull’intelligenza artificiale si è spesso concentrato su un delicato equilibrio: da una parte la necessità di favorire l’innovazione e mantenere alta la competitività tecnologica, dall’altra l’esigenza di prevenire possibili rischi legati a sistemi sempre più potenti e autonomi. Fino a poco tempo fa gran parte delle aziende del settore, compresa Anthropic, sembrava orientata soprattutto verso misure di trasparenza e autoregolamentazione; ora però, secondo il CEO della società statunitense, questo approccio potrebbe non essere più sufficiente.

Con un nuovo documento intitolato Policy on the AI Exponential, Dario Amodei ha infatti presentato una serie di proposte che mirano a ridefinire il rapporto tra governi, aziende e modelli di intelligenza artificiale avanzata. Non si tratta di un semplice esercizio teorico o di una riflessione sul futuro della tecnologia, il documento contiene indicazioni operative e suggerimenti legislativi concreti che, nelle intenzioni del manager, dovrebbero aiutare le istituzioni a prepararsi all’arrivo di sistemi IA sempre più capaci.

La posizione di Amodei assume un peso particolare nel panorama tecnologico attuale, negli ultimi mesi il CEO di Anthropic si è distinto per una serie di interventi pubblici dedicati sia alle opportunità sia ai rischi dell’intelligenza artificiale; se in passato aveva evidenziato soprattutto i benefici che queste tecnologie potrebbero portare alla ricerca scientifica, alla medicina e alla produttività economica, questa volta l’attenzione si concentra maggiormente sulle misure necessarie per evitare scenari considerati pericolosi.

Segui TuttoTech.net su Google Discover

Per Anthropic i modelli IA dovrebbero essere certificati prima del rilascio

Uno dei punti centrali della proposta riguarda la creazione di un sistema di verifica obbligatorio per i modelli più potenti, ispirato a quanto avviene nel settore dell’aviazione civile. L’idea è semplice, così come un nuovo aeromobile deve superare una lunga serie di test prima di poter trasportare passeggeri, anche i sistemi di intelligenza artificiale più avanzati dovrebbero essere sottoposti a controlli indipendenti prima di essere resi disponibili al pubblico e alle aziende.

Secondo Amodei, l’attuale sistema basato prevalentemente su verifiche volontarie non sarebbe più adeguato alla soluzione attuale; negli ultimi anni i modelli di frontiera hanno infatti mostrato capacità che vanno ben oltre la semplice generazione di testi o immagini, arrivando a svolgere compiti complessi in ambiti come la programmazione, la ricerca scientifica e l’analisi di sistemi informatici.

Per il CEO di Anthropic, proprio questa crescita esponenziale delle capacità rende necessario introdurre regole più rigorose. L’obbiettivo dichiarato non è rallentare l’innovazione, ma assicurarsi che i modelli vengano valutati in modo approfondito prima di essere distribuiti su larga scala.

Un’autorità con il potere di fermare i modelli considerati pericolosi

La proposta avanzata da Anthropic va oltre la semplice introduzione di test preliminari, il framework immaginato dall’azienda prevede infatti la nascita di un’autorità governativa dotata di poteri vincolanti, capaci di imporre verifiche obbligatorie e applicare sanzioni economiche alle società che non rispettano gli standard di sicurezza stabiliti.

Si tratta di un’approccio che supera le recenti iniziative statunitensi basate principalmente sulla collaborazione volontaria tra governo e aziende tecnologiche. Secondo Amodei infatti, la sola trasparenza non sarebbe più sufficiente per gestire tecnologie che potrebbero avere conseguenze dirette sulla sicurezza nazionale.

I controlli dovrebbero concentrarsi su alcuni dei rischi ritenuti più critici dagli esperti del settore, tra cui gli scenari legati alla sicurezza informatica, allo sviluppo di armi biologiche, alla perdita di controllo dei sistemi autonomi e all’utilizzo dell’IA per accelerare ulteriormente queste minacce.

Nel caso in cui un modello venisse giudicato troppo rischioso, il governo potrebbe arrivare a impedirne il rilascio o limitarne fortemente la diffusione, una possibilità che, almeno sulla carta, riguarderebbe anche le tecnologie sviluppate dalla stessa Anthropic, incluso Claude.

Un altro aspetto particolarmente interessante riguarda la protezione dei cosiddetti pesi dei modelli, cioè gli elementi fondamentali che ne determinano il funzionamento. Le aziende dovrebbero adottare misure di sicurezza avanzate per evitare furti, copie non autorizzate o tentativi di utilizzo improprio da parte di soggetti esterni.

L’impatto sul lavoro preoccupa sempre di più

Una parte consistente del documento è dedicata alle conseguenze economiche dell’intelligenza artificiale. Amodei sostiene che l’IA potrebbe trasformarsi in un vero e proprio sostituto del lavoro cognitivo in numerosi settori professionali, generando una pressione sul mercato occupazionale superiore rispetto a quella osservata durante precedenti rivoluzioni tecnologiche.

La differenza, secondo il manager, risiede soprattutto nella velocità con cui questa trasformazione potrebbe avvenire; se in passato lavoratori e imprese hanno avuto anni o decenni per adattarsi all’introduzione di nuove tecnologie, l’intelligenza artificiale potrebbe comprimere drasticamente questi tempi.

Per questo motivo Anthropic propone una serie di strumenti che possano accompagnare lavoratori e aziende durante la transizione: tra le possibili misure figurano programmi di riqualificazione professionale, sostegni economici per chi dovesse cambiare occupazione e incentivi per le imprese che scelgono di mantenere la forza lavoro durante l’adozione di nuove tecnologie.

Nel caso di impatti particolarmente gravi sull’occupazione, Amodei ipotizza anche interventi più radicali, come forme di reddito di base o nuovi meccanismi di redistribuzione della ricchezza generata dall’intelligenza artificiale. Per sostenere studi e sperimentazioni in questo ambito, Anthropic ha annunciato uno stanziamento complessivo di 350 milioni di dollari, destinati sia alla ricerca sulle politiche economiche sia alla formazione di nuove figure professionali.

Troppa burocrazia potrebbe rallentare i benefici dell’IA nella medicina

Interessante anche la posizione espressa da Amodei sul settore sanitario, in questo caso il problema (secondo il manager) non sarebbe rappresentato da un eccesso di innovazione ma dalla lentezza dei processi regolatori; le future IA potrebbero accelerare in maniera significativa la scoperta di nuovi farmaci, l’identificazione di molecole promettenti e la progettazione di trattamenti innovativi.

Tuttavia, gli enti regolatori rischierebbero di non riuscire a tenere il passo con il ritmo dei progressi tecnologici, per questo motivo il CEO suggerisce che organismi come FDA ed EMA inizino fin da subito a sviluppare procedure capaci di integrare le simulazioni e le analisi effettuate dall’intelligenza artificiale nei processi di approvazione.

L’obbiettivo è evitare che eventuali scoperte rivoluzionarie rimangano bloccate per anni all’interno di iter burocratici concepiti in un’epoca precedente all’arrivo dell’IA generativa.

Libertà civili e geopolitica al centro del dibattito

Nel documento trovano spazio anche considerazioni più ampie sul ruolo che l’IA potrebbe assumere nelle società moderne, Amodei teme che sistemi sempre più avanzati possano diventare strumenti di controllo nelle mani di governi autoritari o grandi organizzazioni private; per questo sostiene la necessità di introdurre nuove garanzie a tutela dei cittadini e maggiore trasparenza nell’utilizzo dell’intelligenza artificiale da parte delle amministrazioni pubbliche.

Tra le proposte emerge anche l’idea che i cittadini debbano poter accedere a strumenti IA comparabili a quelli utilizzati dalle istituzioni quando sono coinvolti in procedimenti amministrativi o decisioni governative che li riguardano direttamente.

Sul fronte internazionale invece, il CEO di Anthropic propone la creazione di una coalizione tra democrazie occidentali per coordinare lo sviluppo e la regolamentazione delle tecnologie IA, condividendo risorse strategiche e limitando l’accesso alle infrastrutture più avanzate ai Paesi considerati ostili.

Una visione che richiama da vicino le attuali tensioni geopolitiche legate ai semiconduttori e ai controlli sulle esportazioni di chip avanzati verso la Cina, tema che continua a rappresentare uno dei principali terreni di confronto tra Washington e Pechino.

Le proposte avanzate da Amodei difficilmente troveranno applicazione nell’immediato, ma rappresentano un segnale importante. Anche una delle aziende che oggi guidano la corsa all’intelligenza artificiale ritiene infatti che la sola autoregolamentazione non basti più, se fino a pochi anni fa il dibattito era incentrato soprattutto sulla velocità dell’innovazione, oggi sembra emergere con sempre maggiore forza la necessità di costruire un quadro normativo capace di accompagnare l’arrivo di tecnologie che potrebbero avere un impatto senza precedenti sulla società, sull’economia e sugli equilibri geopolitici globali.