OpenAI collabora con Anthropic e Google per la sicurezza dell’IA

OpenAI sta collaborando con Anthropic e Google DeepMind per affrontare i problemi legati alla sicurezza dell’intelligenza artificiale. Il coordinamento tra i tre laboratori, tra i principali protagonisti nello sviluppo dei modelli IA più avanzati, sarebbe in corso già da diverse settimane e arriva in un momento in cui il dibattito sui rischi dei sistemi di frontiera è tornato particolarmente acceso.

A confermare l’esistenza dei colloqui è stato Chris Lehane, responsabile delle politiche globali di OpenAI, durante un briefing a Washington. Secondo quanto riportato, l’azienda ritiene che sia preferibile collaborare con i concorrenti sulle questioni di sicurezza e non considera necessaria una specifica deroga alle norme antitrust statunitensi per farlo.

Segui TuttoTech.net su Google Discover

Pubblicità-20%

Amazon

Apple iPhone 17 Pro Max 256 GB

1.195€1.489€

Vai all'offerta

OpenAI, Anthropic e Google discutono sulla sicurezza dell’IA

La collaborazione tra le aziende riguarda diverse possibili modalità di coordinamento sulla sicurezza dell’IA. Lehane ha spiegato che OpenAI, Anthropic e Google stanno discutendo da settimane e che, secondo l’azienda, questo tipo di collaborazione non richiede necessariamente un’esenzione dalle regole antitrust.

L’idea di far collaborare aziende concorrenti quando sono in gioco problemi di sicurezza non sarebbe inoltre senza precedenti, il dirigente di OpenAI ha citato il settore dell’aviazione come esempio di un comparto nel quale, nel corso del tempo, aziende diverse hanno condiviso informazioni e lavorato insieme per affrontare problemi di sicurezza.

Al momento però, non sono arrivate conferme dirette da Anthropic e Google DeepMind, i portavoce delle due aziende non avevano infatti risposto alle richieste di commento. La notizia arriva dopo una serie di interventi che hanno riacceso il confronto sui rischi associati allo sviluppo dei modelli di IA più avanzati.

Dario Amodei ha chiesto di rallentare lo sviluppo dei modelli più avanzati

Uno degli episodi più recenti è stato il saggio pubblicato da Dario Amodei, amministratore delegato di Anthropic, nel quale il dirigente ha sostenuto la necessità di rallentare lo sviluppo dei sistemi di IA più avanzati per consentire ai ricercatori di comprendere meglio i potenziali rischi.

La proposta comprende, tra le altre cose, un maggiore coinvolgimento di valutatori di sicurezza indipendenti, ai quali dovrebbe essere consentito un accesso continuativo alle strutture delle aziende che sviluppano i modelli più avanzati. Amodei ha inoltre indicato la necessità di definire standard di sicurezza comuni tra i diversi laboratori, con l’eventuale obbiettivo di arrivare in futuro a forme di coordinamento internazionale. Anthropic ha dichiarato che intende iniziare ad applicare autonomamente la parte della proposta relativa ai valutatori indipendenti.

Il tema era già emerso nei giorni precedenti attraverso gli interventi di alcuni ricercatori del settore, in particolare, l’ex ricercatore di OpenAI e Anthropic Jacob Coxon aveva criticato il ritmo con cui i laboratori stanno sviluppando sistemi sempre più avanzati. A sostegno delle sue preoccupazioni è intervenuto anche Evan Hubinger, responsabile scientifico per l’allineamento di Anthropic, che ha indicato una stima superiore al 10% di probabilità che l’intelligenza artificiale possa sterminare l’umanità entro il prossimo decennio. Si tratta, naturalmente, di una valutazione personale del ricercatore e non di una previsione condivisa da tutti gli esperti del settore.

Pochi giorni dopo, Amodei ha pubblicato il suo saggio invitando a tenere il passo con la frontiera e chiedendo maggiore cautela nello sviluppo dei sistemi più avanzati. L’iniziativa ha ricevuto il sostegno pubblico di Sam Altman ed Elon Musk, contribuendo a trasformare il tema della sicurezza dell’IA in un confronto che coinvolge ormai aziende, ricercatori e istituzioni.

OpenAI punta anche a una risposta politica ai rischi dell’IA

Parallelamente ai colloqui con Anthropic e Google, OpenAI sta cercando di intervenire anche sul fronte legislativo statunitense. Lehane si trova infatti a Washington per incontrare alcuni legislatori e ha affermato che OpenAI sosterrà proposte bipartisan pensate per affrontare i potenziali rischi catastrofici associati all’intelligenza artificiale.

Tra le iniziative indicate dal dirigente c’è il quadro federale per la governance dell’IA proposto dal deputato repubblicano Jay Obernolte e dalla democratica Lori Trahan. OpenAI ha inoltre manifestato apertura nei confronti di una proposta al Senato, ancora in fase di elaborazione, alla quale stanno lavorando il leader della maggioranza John Thune, il repubblicano Ted Cruz e la democratica Amy Klobuchar.

Esiste anche un’altra proposta che affronta direttamente il problema del coordinamento tra aziende concorrenti, il senatore repubblicano Jim Banks e il democratico Adam Schiff hanno proposto un disegno di legge che introdurrebbe una deroga antitrust limitata per consentire alle aziende di IA di condividere determinate informazioni in situazioni di grave rischio, comprese eventuali perdite di controllo sui sistemi, minacce informatiche o biologiche e tentativi di esfiltrazione di dati da parte di aziende cinesi.

Il quadro politico però, è tutt’altro che uniforme; Donald Trump ha respinto con forza le richieste di introdurre nuovi limiti allo sviluppo dell’IA, definendo una bufala le preoccupazioni espresse sull’eventualità che i sistemi di intelligenza artificiale possano sfuggire al controllo. Il presidente statunitense ha inoltre parlato di una SICK conspiracy legata all’IA e ai data center, sostenendo che gli Stati Uniti non dovrebbero rallentare lo sviluppo della tecnologia.

Anche sul fronte legislativo i tempi potrebbero essere stretti, secondo quanto riportato la Camera dei Rappresentanti dovrebbe lasciare Washington giovedì 17 settembre e non tornare nella capitale prima delle elezioni di novembre. La successiva breve sessione di transizione dovrebbe concentrarsi soprattutto sul finanziamento del Pentagono, lasciando poco spazio per l’approvazione di nuove norme sull’intelligenza artificiale.

Per il momento quindi, il confronto sulla sicurezza dell’IA resta aperto su più livelli: le aziende stanno cercando forme di collaborazione tra concorrenti, i ricercatori chiedono maggiori garanzie e i legislatori valutano nuove regole, mentre all’interno del governo statunitense non manca chi considera prematuro introdurre ulteriori limiti.

La collaborazione tra OpenAI, Anthropic e Google rappresenta in questo contesto un passaggio significativo, ma le discussioni sono ancora in corso e non è ancora chiaro quali misure concrete emergeranno dal confronto tra i tre laboratori.