La crescita e l’evoluzione dell’intelligenza artificiale è inarrestabile? Sembrerebbe di sì se teniamo conto degli annunci che arrivano continuamente su nuove funzionalità, aggiornamenti di modelli e novità di strumenti e dispositivi che utilizzano l’AI. Eppure qualcosa potrebbe cambiare. Così vorrebbero in molti, compreso niente meno che il CEO di Anthropic Dario Amodei.

Segui TuttoTech.net su Google Discover

Pubblicità-44%MOVA Z60 Ultra Roller
Amazon
MOVA Z60 Ultra Roller
499€899€
Vai all'offerta

Un’idea condivisa

In un post pubblicato sul proprio blog personale, Amodei ha ripreso un concetto già avanzato in precedenza anche dall’amministratore delegato di OpenAI Sam Altman, secondo cui sarebbe ormai necessario rallentare il ritmo dello sviluppo dell’intelligenza artificiale, un’idea che lo stesso Amodei aveva già anticipato in un precedente appello per un rallentamento globale dello sviluppo dell’IA, pubblicato all’inizio dell’anno con argomentazioni simili a quelle riproposte ora. Amodei ha spiegato che due episodi recenti lo avrebbero convinto della necessità di un approccio più cauto, ovvero la violazione dei sistemi di Hugging Face da parte di agenti di OpenAI e la velocità con cui l’intelligenza artificiale starebbe migliorando la propria capacità di contribuire allo sviluppo della generazione successiva di modelli.

Proprio in seguito a questi episodi, OpenAI avrebbe chiesto alla California di rafforzare le tutele legali previste per i modelli di intelligenza artificiale più avanzati. Tra i rischi concreti di uno sviluppo non controllato, Amodei ha citato la perdita di controllo sui sistemi di intelligenza artificiale, l’uso improprio della tecnologia per attacchi informatici e per il bioterrorismo, oltre a possibili gravi ripercussioni economiche. Il numero uno di Anthropic ha inoltre affermato che, anche rallentando, il ritmo dei progressi continuerà a sembrare comunque sostenuto, e che sarà fondamentale fare buon uso del tempo così guadagnato. «Le misure che propongo non saranno facili, ma credo che lo dobbiamo all’umanità», ha scritto Amodei nel suo post.

Pochi giorni prima del post di Amodei un ricercatore di Anthropic ha lasciato l’azienda sostenendo che le principali aziende del settore starebbero correndo verso lo sviluppo di sistemi capaci di auto-migliorarsi, con conseguenze potenzialmente catastrofiche entro la fine del decennio. Poco dopo quella notizia Anthropic ha fatto sapere di aver individuato e bloccato alcuni scienziati che utilizzavano Claude per attività di ricerca potenzialmente collegate allo sviluppo di armi biologiche.

Tre strategie per rallentare lo sviluppo dell’AI

Amodei ha indicato tre possibili strategie per arginare questa preoccupante piega presa dall’AI. La prima prevede l’introduzione di valutatori esterni indipendenti, provenienti da organizzazioni come il METR (Model Evaluation and Threat Research) con il compito di verificare che le aziende rispettino effettivamente gli impegni presi in materia di sicurezza e di segnalare eventuali incidenti, un meccanismo che Amodei ha paragonato a quello dei regolatori bancari incaricati di lavorare fianco a fianco con i dipendenti degli istituti di credito.

Come esempio di segnalazione mancata, Amodei ha citato il caso in cui OpenAI è stata criticata per non aver riferito un incidente in cui alcuni suoi agenti avevano preso il controllo di un forum wiki tedesco. Anthropic si sarebbe impegnata unilateralmente ad adottare questa misura, fornendo ai valutatori badge aziendali, postazioni di lavoro e un livello di accesso paragonabile a quello dei team interni di valutazione del rischio, salvo eccezioni previste da leggi o contratti, chiedendo però ai governi di imporre lo stesso obbligo anche alle altre aziende di frontiera.

La seconda strategia riguarda il coordinamento tra le principali aziende di intelligenza artificiale attive nei Paesi democratici, chiamate a definire standard di sicurezza comuni e limiti condivisi al ritmo di sviluppo. Amodei ha riconosciuto che un coordinamento di questo tipo potrebbe apparire improbabile, anche alla luce dei rapporti tesi tra lui e Altman, e ha aggiunto che le aziende del settore sarebbero preoccupate per possibili implicazioni legate all’antitrust. Per questo motivo Amodei ha chiesto al governo statunitense di mediare o quantomeno agevolare questi confronti, con un’esenzione mirata per le conversazioni relative alla sicurezza.

Prima di illustrare la terza strategia, Amodei ha affrontato l’obiezione secondo cui rallentare lo sviluppo negli Stati Uniti finirebbe per favorire la Cina nella corsa all’intelligenza artificiale. Secondo Amodei, misure come il divieto di vendita di chip avanzati e di attrezzature per la produzione di semiconduttori alle aziende cinesi, insieme a un contrasto più efficace alle pratiche di “model distillation” (tecnica con cui un modello di intelligenza artificiale più piccolo viene addestrato a replicare il comportamento di uno più grande), potrebbero comunque ampliare in modo significativo il vantaggio statunitense nei prossimi tre-cinque anni.

La terza strategia, definita da Amodei come “coordinamento globale”, riguarderebbe invece un tentativo di dialogo tra Stati Uniti e alleati da un lato e governi autoritari dall’altro, Cina inclusa. Amodei ha ammesso che i margini di intesa sarebbero comunque molto limitati, ma ha ipotizzato la possibilità di accordi su usi specifici e particolarmente pericolosi dell’intelligenza artificiale, come l’impiego per lo sviluppo di armi biologiche.

Le reazioni e le critiche

Le posizioni di Amodei hanno suscitato reazioni contrastanti. Da una parte alcuni sostenitori dello sviluppo rapido dell’intelligenza artificiale hanno accusato il manager di alimentare un clima di allarmismo attorno alla tecnologia. Dall’altra, diversi critici del settore hanno messo in dubbio la reale portata di questi avvertimenti, sostenendo che servirebbero soprattutto a distogliere l’attenzione dai danni già oggi provocati dall’intelligenza artificiale.

Il giornalista Brian Merchant ha sottolineato di non aver ancora trovato una documentazione credibile e sufficientemente dettagliata in grado di spiegare come un sistema di intelligenza artificiale capace di auto-migliorarsi possa arrivare a rappresentare una minaccia per l’intera umanità. Secondo Merchant, inoltre, proposte come quella avanzata da Amodei rischierebbero di avvantaggiare soprattutto le stesse aziende che oggi dominano il settore, come Anthropic e OpenAI, trasformandosi di fatto in una forma di cattura del regolatore.

Amodei ha respinto questa lettura, sostenendo di aver cercato di proporre una posizione equilibrata. Secondo il CEO di Anthropic, il crescente scetticismo nei confronti dell’intelligenza artificiale è il sintomo di una più ampia crisi di fiducia che coinvolge non solo le aziende tecnologiche, ma l’intero settore e le istituzioni pubbliche. Nonostante le critiche, Amodei continua però a ritenere che l’intelligenza artificiale possa migliorare in modo significativo la qualità della vita, a patto che venga sviluppata nel modo giusto.

Se da un lato le parole di Amodei arrivano proprio da chi sta guidando in prima persona lo sviluppo dell’intelligenza artificiale, dall’altro lasciano aperto un interrogativo più critico, ovvero perché, al di là delle dichiarazioni di intenti, chi ha la possibilità concreta di intervenire scelga di farlo solo dopo che i danni si sono già verificati, invece di prevenirli.