Secondo Anthropic, e più nello specifico secondo il suo chief scientist Jared Kaplan, l’umanità si starebbe avvicinando piuttosto rapidamente a uno dei passaggi più delicati (e potenzialmente irreversibili) dell’intera storia dell’intelligenza artificiale. In un’intervista rilasciata a The Guardian, Kaplan ha infatti delineato uno scenario che potrebbe concretizzarsi tra il 2027 e il 2030, periodo entro il quale potrebbe diventare necessario decidere se permettere o meno ai sistemi IA più avanzati di occuparsi autonomamente dell’addestramento di altri modelli, senza una supervisione umana diretta.

A breve bisognerà decidere se lasciare all’intelligenza artificiale il pieno controllo

Si tratta di una prospettiva che, nelle parole dello stesso Kaplan, rappresenta un vero e proprio rischio definitivo, perché capace di aprire contemporaneamente la porta a progressi straordinari e a pericoli difficilmente controllabili.

Da un lato infatti, l’addestramento autonomo potrebbe innescare quella che il ricercatore definisce un’esplosione di intelligenza artificiale, portando alla nascita di un’intelligenza artificiale generale (AGI) in grado di eguagliare o persino superare le capacità cognitive umane, con ricadute potenzialmente enormi in ambiti come la ricerca scientifica, la medicina e l’innovazione tecnologica. Dall’altro lato però, il rischio concreto sarebbe quello di perdere il controllo su sistemi sempre più potenti, complessi e opachi, la cui evoluzione potrebbe sfuggire alla comprensione umana.

È un processo piuttosto spaventoso. Non sai dove finirai, ha affermato Kaplan, sottolineando come l’assenza di un controllo diretto renda estremamente difficile prevedere gli esiti di un miglioramento ricorsivo completamente autonomo.

Le parole dello chief scientist di Anthropic si inseriscono in un dibattito già ampiamente acceso all’interno della comunità tecnologica, figure storiche come Geoffrey Hinton hanno espresso apertamente rimpianti per il proprio contributo allo sviluppo dell’IA, mentre Sam Altman ha più volte messo in guardia sull’impatto dirompente che queste tecnologie potrebbero avere sul mercato del lavoro. Non a caso, lo stesso CEO di Anthropic, Dario Amodei, ha recentemente stimato che l’intelligenza artificiale potrebbe sostituire oltre la metà dei lavori impiegatizi entry level.

Kaplan sembra condividere questa visione piuttosto netta, secondo il ricercatore l’IA sarà in grado di svolgere la maggior parte del lavoro d’ufficio nel giro di due o tre anni; pur dichiarandosi moderatamente ottimista sulla possibilità di mantenere l’allineamento dei modelli agli interessi degli esseri umani, individua proprio nel miglioramento ricorsivo il nodo più critico dell’intera questione. Una volta che nessuno è coinvolto nel processo, spiega, diventa impossibile sapere davvero dove porterà l’evoluzione del sistema, anche quando tutto sembra procedere in modo sicuro e prevedibile.

Va comunque precisato che una forma limitata di addestramento da IA a IA è già oggi una realtà, tecniche come la distillazione permettono infatti ai modelli più grandi di trasferire conoscenze a versioni più piccole ed efficienti. La differenza sostanziale, secondo Kaplan, sta nel livello di autonomia: eliminare del tutto la supervisione umana significherebbe rinunciare a comprendere e controllare l’evoluzione di sistemi capaci di migliorare sé stessi senza vincoli espliciti.

La questione non è soltanto tecnica, ma anche profondamente filosofica, le domande da porsi sono tutt’altro che banali, le intelligenze artificiali saranno davvero un bene per l’umanità? Sapranno comprendere le persone? Permetteranno agli esseri umani di mantenere il controllo sulla propria vita e sul mondo che li circonda?

Non tutti ovviamente condividono questa visione, ricercatori come Yann LeCun ritengono che le architetture attuali dei large language model non siano in grado di evolvere verso una vera AGI in autonomia, mentre alcuni studi mettono in dubbio un reale incremento della produttività, evidenziando casi in cui l’IA non è riuscita a sostituire efficacemente il lavoro umano.

Lo stesso Kaplan, del resto, riconosce l’elevato grado di incertezza che caratterizza questo scenario, forse la migliore IA mai esistita è quella che abbiamo adesso, afferma, salvo poi aggiungere che realisticamente non crede che lo sviluppo si fermerà qui. Un’affermazione che riassume perfettamente lo stato attuale del dibattito: un equilibrio estremamente fragile tra enormi aspettative di progresso e il timore, sempre più concreto, di perdere il controllo su una delle tecnologie più potenti mai create.

Potrebbero interessarti anche: