Un ricercatore di Anthropic avverte: l’IA potrebbe uccidere tutta l’umanità entro il prossimo decennio

Le preoccupazioni sulla sicurezza dell’intelligenza artificiale continuano a crescere, soprattutto mentre le principali aziende del settore accelerano lo sviluppo di sistemi sempre più avanzati. A riaccendere il dibattito sono le dichiarazioni di alcuni ricercatori di Anthropic, secondo i quali la corsa verso sistemi di IA capaci di migliorarsi autonomamente potrebbe comportare rischi estremamente elevati.

In particolare, Evan Hubinger, responsabile di uno dei team di sicurezza dell’IA di Anthropic, ha affermato di ritenere superiore al 10% la probabilità che l’intelligenza artificiale possa arrivare a sterminare l’umanità entro il prossimo decennio. Una valutazione personale, ovviamente, che non rappresenta una previsione certa, ma che arriva direttamente da uno dei ricercatori impegnati nello studio della sicurezza dei sistemi avanzati.

Segui TuttoTech.net su Google Discover

Pubblicità-44%

Amazon

MOVA Z60 Ultra Roller

499€899€

Vai all'offerta

Un ricercatore lascia Anthropic per i timori sulla sicurezza

Il dibattito è esploso dopo le dimissioni di Jacob Coxon, ricercatore che aveva lavorato all’addestramento di sistemi di intelligenza artificiale presso Anthropic e in precedenza anche presso OpenAI.

Nel comunicare la propria decisione, Coxon ha criticato l’approccio delle aziende alla sicurezza dell’IA, sostenendo che Anthropic e OpenAI stiano correndo verso la realizzazione di una superintelligenza capace di auto-migliorarsi, mettendo secondo lui a rischio la sicurezza delle persone.

Il ricercatore ha inoltre sottolineato come alcune delle stesse persone impegnate nello sviluppo dell’intelligenza artificiale ritengano concretamente possibile uno scenario nel quale l’IA potrebbe provocare conseguenze catastrofiche entro la fine del decennio.

Le sue dichiarazioni hanno trovato una risposta diretta proprio da Hubinger, che ha ammesso di condividere parte delle preoccupazioni. Il responsabile della sicurezza di Anthropic ha spiegato che lo sviluppo dell’IA capace di auto-migliorarsi starebbe procedendo più velocemente di quanto inizialmente previsto.

Hubinger ha anche concordato con la descrizione di Coxon della situazione, arrivando a dichiarare che Anthropic ritiene davvero possibile che l’IA possa sterminare l’umanità; la sua stima personale, come detto, supera una probabilità su dieci entro il prossimo decennio.

Il rischio dell’auto-miglioramento ricorsivo

Al centro delle preoccupazioni c’è soprattutto la possibilità che un sistema di IA possa arrivare a migliorare autonomamente le proprie capacità, si tratta di uno scenario spesso associato al concetto di auto-miglioramento ricorsivo.

L’ipotesi è che un sistema sufficientemente avanzato possa contribuire a sviluppare una versione ancora più capace di sé stesso, che a sua volta potrebbe essere in grado di migliorare ulteriormente il sistema; in teoria, questo processo potrebbe creare un ciclo di miglioramenti sempre più rapidi e difficili da controllare.

Uno scenario di questo tipo non è stato realizzato, ma rappresenta da tempo uno degli argomenti più discussi nell’ambito della sicurezza dell’intelligenza artificiale. Nel frattempo, l’IA viene utilizzata sempre più frequentemente anche per sviluppare software e codice, rendendo il confine tra strumento utilizzato dagli sviluppatori e tecnologia capace di contribuire al proprio miglioramento sempre più interessante da analizzare.

La preoccupazione di Hubinger riguarda proprio la velocità di questi progressi, secondo il ricercatore, Anthropic non avrebbe ancora un piano sufficientemente definito per garantire che un’IA avanzata possa rimanere sicure e allineata ai valori umani e, soprattutto, l’azienda non sarebbe chiaramente sulla strada giusta per svilupparne uno.

La corsa all’IA sempre più avanzata preoccupa i ricercatori

Le dichiarazioni arrivano in un momento nel quale le aziende tecnologiche stanno investendo risorse enormi nello sviluppo dei cosiddetti modelli di frontiera e di agenti capaci di svolgere autonomamente un numero crescente di attività.

Secondo Coxon, Anthropic e le altre aziende del settore sarebbero impegnate in una vera e propria corsa per arrivare per prime a sistemi più avanzati, procedendo nonostante i rischi individuati dai ricercatori.

Quello della sicurezza non è comunque un problema limitato ad Anthropic, negli ultimi anni diversi ricercatori hanno lasciato aziende di intelligenza artificiale citando proprio le preoccupazioni riguardo alla gestione dei rischi e alle strategie adottate per garantire la sicurezza dei modelli.

Il confronto assume quindi un’importanza particolare proprio mentre l’industria dell’IA si prepara a una nuova fase di sviluppo, caratterizzata da sistemi sempre più autonomi e capaci di interagire con computer, software e servizi.

È importante sottolineare, come sempre, che non esistono oggi prove che un’intelligenza artificiale sia in grado di sterminare l’umanità, né che uno scenario simile sia destinato necessariamente a verificarsi. Le percentuali citate da Hubinger rappresentano una sua valutazione del rischio futuro e mostrano soprattutto quanto siano profonde le preoccupazioni di una parte dei ricercatori che lavorano proprio sulla sicurezza dell’IA.

Il punto sollevato dai ricercatori, quindi, non riguarda soltanto ciò che l’intelligenza artificiale è capace di fare oggi, ma soprattutto quanto rapidamente potrebbero aumentare le sue capacità nei prossimi anni e se le misure di sicurezza riusciranno a tenere il passo con questa evoluzione.