Paul Christiano, una delle voci più autorevoli nel campo dell’allineamento dell’intelligenza artificiale, entra a far parte del consiglio della Fondazione OpenAI e del suo Safety and Security Committee (SSC). La notizia arriva in un momento cruciale per l’industria, con l’ex ricercatore OpenAI che lancia un avvertimento chiaro: il rischio di perdita di controllo dei sistemi AI è concreto e imminente.

Segui TuttoTech.net su Google Discover

Pubblicità-21%Samsung Galaxy Watch Ultra2, 47 mm
Amazon
Samsung Galaxy Watch Ultra2, 47 mm
589,08€748,99€
Vai all'offerta

Paul Christiano si unisce al consiglio OpenAI: un nuovo vigilante per la sicurezza

L’annuncio ufficiale arriva direttamente dalla OpenAI Foundation, che ha nominato Christiano come membro del board e osservatore non votante nel consiglio di OpenAI Group PBC. Il suo ruolo principale sarà nel Safety and Security Committee, il comitato che fornisce governance sulle pratiche di sicurezza dell’intera organizzazione, affiancando il presidente del comitato Zico Kolter. “Sono entusiasta di unirmi al consiglio nonprofit di OpenAI, prestando servizio nel Safety and Security Committee per supportare la supervisione della sicurezza”, ha dichiarato Christiano.

Non si tratta di una semplice nomina onorifica: Christiano è stato tra i pionieri del reinforcement learning from human feedback (RLHF) proprio durante il suo precedente periodo in OpenAI, dal 2017 al 2021. Inoltre, ha fondato l’Alignment Research Center (ARC), organizzazione nonprofit focalizzata sull’allineamento dei sistemi AI con gli interessi umani. Il suo background include anche esperienze governative di alto livello: ha lavorato come Senior Tech Advisor presso il Center for AI Standards and Innovation (CAISI) del NIST, agenzia del Dipartimento del Commercio USA, servendo due amministrazioni.

Perché Christiano è preoccupato: il rischio di perdita di controllo è acuto

Nel suo intervento, Christiano spiega nel dettaglio le ragioni della sua preoccupazione. “Basandomi sulla recente traiettoria delle capacità e sulla continua difficoltà dell’allineamento, ora credo che esista un rischio significativo che una rapida accelerazione delle capacità dell’AI porti a una catastrofica e irreversibile perdita di controllo nel brevissimo termine”, scrive. E aggiunge: “Non penso che l’industria dell’AI in generale, inclusa OpenAI, sia attualmente sulla buona strada per ridurre questo rischio a un livello accettabile”.

Il punto cruciale riguarda la ricerca e sviluppo automatizzata dell’AI. Secondo Christiano, OpenAI ha previsto che potremmo avere capacità sufficienti per automatizzare completamente la ricerca sull’AI entro 18 mesi anche se la sua previsione personale è più incerta, spaziando da pochi mesi a diversi anni. La piena automazione creerebbe un ciclo di feedback positivo: i miglioramenti negli algoritmi aumenterebbero la quantità e la qualità dei ricercatori AI automatizzati, portando a un’esplosione di intelligenza. “Se ciò accadesse, entro sei mesi dalla piena automazione della ricerca sull’AI potremmo vedere più progresso algoritmico di quanto ne sia stato fatto dallo sviluppo del Transformer quasi un decennio fa”, avverte. Il risultato sarebbero sistemi AI superintelligenti.

Ma non è solo una questione di velocità: c’è anche il problema dell’allineamento. Christiano sottolinea che gli attuali sistemi vengono addestrati con reinforcement learning per massimizzare la ricompensa, il che potrebbe teoricamente motivare gli agenti a minare il controllo umano, cercare potere e risorse e nascondere le proprie tracce. E le evidenze pubbliche recenti suggeriscono che non si tratta solo di una possibilità teorica. “Se costruiamo la superintelligenza senza un allineamento più robusto, mi aspetto che ne perderemo permanentemente il controllo”, scrive. Le conseguenze sarebbero catastrofiche: “Se ciò accadesse, la maggior parte delle persone potrebbe morire”.

Il ruolo del Safety and Security Committee e la governance di OpenAI

L’SSC è un organo chiave nella nuova struttura di governance di OpenAI, nata dalla grande ricapitalizzazione del 2025. In quell’occasione, l’organizzazione originale no-profit è stata trasformata in Foundation, che oggi detiene circa il 26% del capitale azionario di OpenAI Group PBC, per un valore stimato di circa 130 miliardi di dollari. La Fondazione si è impegnata a investire 1 miliardo di dollari entro il primo anno in programmi che spaziano dalla resilienza AI alle scienze della vita fino alle iniziative per la società civile.

Christiano riconosce le sfide: “L’SSC ha un ruolo importante e complesso nella supervisione della gestione del rischio in OpenAI, e spero di fornire competenze e assistenza in un momento critico”. Tuttavia, specifica che la sua adesione “non è un’approvazione né una critica delle pratiche di sicurezza di OpenAI in particolare; spero che tutte le aziende di frontiera rafforzino la supervisione della sicurezza e sono entusiasta di lavorare su questo in OpenAI”. Il presidente di OpenAI, Bret Taylor, ha commentato: “Paul ha contribuito a definire il campo dell’allineamento AI attraverso un lavoro rigoroso, focalizzato sulle domande più difficili poste dai sistemi sempre più capaci”.

Christiano non nasconde la necessità di coordinamento globale e di azioni unilaterali da parte degli sviluppatori di frontiera. “Gli sviluppatori di AI di frontiera hanno molto potere per migliorare unilateralmente la situazione e gettare le basi per un coordinamento più forte”, scrive. Tra le misure concrete: migliorare le mitigazioni della sicurezza (incluso rallentare lo sviluppo se necessario), condividere in modo trasparente le evidenze sul rischio e l’efficacia delle mitigazioni, e lavorare verso standard di sicurezza condivisi.

La notizia della nomina arriva in un contesto normativo particolare: nel 2025, OpenAI ha attraversato una revisione della governance con il coinvolgimento dei Procuratori Generali della California e del Delaware, con l’obiettivo di consolidare il ruolo della Fondazione nel guidare un deployment etico dell’intelligenza artificiale. Christiano si dice incoraggiato dagli altri membri dell’SSC e dalla leadership di OpenAI, e guarda al futuro con spirito costruttivo: “Non vedo l’ora di lavorare con loro per aiutare OpenAI ad alzare l’asticella delle sue pratiche di sicurezza”.