OpenAI chiede aiuto ai matematici per evitare nuovi errori nella ricerca con l’IA

OpenAI sta cercando di cambiare approccio nei confronti della comunità matematica dopo le recenti controversie legate alla pubblicazione e alla comunicazione di alcuni risultati ottenuti dall’intelligenza artificiale. L’azienda ha infatti annunciato la creazione di un nuovo gruppo indipendente composto da matematici di alto livello, con il compito di fornire consulenza non soltanto a OpenAI, ma anche ad altre aziende del settore.

L’obbiettivo è aiutare a gestire meglio il rapporto tra i laboratori di IA e la ricerca matematica, dalla revisione dei risultati fino alla loro pubblicazione e comunicazione. La nascita del gruppo arriva però in un momento particolarmente delicato, considerando le critiche ricevute da OpenAI proprio per il modo in cui ha presentato alcuni dei risultati matematici ottenuti dai propri modelli.

Segui TuttoTech.net su Google Discover

OpenAI crea un gruppo indipendente di nove matematici

Il nuovo organismo si chiama Advisory Group on Mathematics and Artificial Intelligence (AGMAI) ed è formato da nove matematici provenienti da istituzioni come Stanford, Harvard, Oxford e Cambridge. Nel gruppo figurano anche ricercatori di grande rilievo, con diversi premi Fields e MacArthur tra i riconoscimenti rappresentati.

Il gruppo si riunirà presso l’Institute for Advanced Study (IAS) di Princeton, uno dei più importanti centri di ricerca matematica al mondo, che nel corso della sua storia ha ospitato figure come Albert Einstein, John von Neumann e J. Robert Oppenheimer. I suoi membri non saranno retribuiti da OpenAI e, secondo quanto dichiarato dall’azienda, potranno modificare autonomamente la composizione del gruppo.

Un aspetto particolarmente importante riguarda l’indipendenza, OpenAI sostiene che AGMAI potrà fornire anche consulenza non richiesta, commentare pubblicamente il proprio impatto sulla matematica e rendere pubblici i propri pareri; i membri dovrebbero inoltre avere accesso anticipato ad alcune ricerche dell’azienda, così da poter svolgere il proprio compito.

Il gruppo dovrà occuparsi, tra le altre cose, della valutazione della rilevanza dei risultati matematici, del coordinamento della loro diffusione e del rispetto degli standard accademici e professionali. Dovrà inoltre fornire indicazioni sul modo in cui gli strumenti di OpenAI possono essere utilizzati per supportare la ricerca e l’apprendimento della matematica.

La nascita di AGMAI non è però stata accolta senza interrogativi, alcuni matematici hanno sottolineato che non è ancora chiaro quanto il gruppo potrà realmente influenzare le decisioni di OpenAI, mentre altri si sono chiesti come siano stati scelti i nove componenti. Anche Martin Hairer, uno dei membri, ha spiegato che il gruppo è nato dopo che OpenAI aveva contattato alcuni matematici per proporre la creazione di un comitato consultivo, ma che successivamente i ricercatori hanno scelto di trasformarlo in un’organizzazione indipendente e di coinvolgere altre persone.

Hairer ha inoltre ribadito che i membri non hanno sottoscritto accordi restrittivi che impediscano loro di parlare pubblicamente e che non ricevono compensi finanziari da OpenAI. Il matematico ha spiegato che l’obbiettivo principale è rappresentare nel modo migliore possibile gli interessi della comunità matematica, pur riconoscendo che nove persone non possono rappresentarla nella sua totalità.

Il problema dei risultati matematici dell’IA e delle accuse a OpenAI

Il nuovo gruppo dovrà affrontare una questione particolarmente importante: negli ultimi mesi le aziende di intelligenza artificiale hanno iniziato a presentare risultati matematici sempre più ambiziosi, ma secondo diversi ricercatori la loro pubblicazione e comunicazione non hanno rispettato gli standard normalmente adottati dalla comunità scientifica.

La situazione è particolarmente rilevante per OpenAI, che ha recentemente annunciato risultati matematici di grande portata. La società ha lasciato intendere che un nuovo modello, ancora non presentato pubblicamente, avrebbe risolto il problema del Millennium Prize relativo alle equazioni di Navier-Stokes e avrebbe inoltre affrontato più di 100 problemi matematici aperti di lunga data appartenenti a diversi settori della matematica.

Proprio il modo in cui questi risultati verranno verificati, presentati e pubblicati rappresenta una delle principali sfide per AGMAI. Hairer ha spiegato che il gruppo sta già raccogliendo contributi attraverso conversazioni con altri matematici, un modulo di feedback pubblico e discussioni sul blog Proofs and Prompts, diventato uno dei luoghi di confronto della comunità sull’impatto dell’IA sulla matematica.

Dietro la creazione del gruppo c’è anche il difficile rapporto costruito da OpenAI con una parte della comunità matematica, le precedenti comunicazioni dell’azienda hanno infatti generato accuse relative al riconoscimento insufficiente del lavoro dei ricercatori umani, alla priorità delle scoperte e al modo in cui i risultati dei modelli sono stati presentati.

Diversi matematici continuano quindi a chiedersi quale sarà concretamente il ruolo di AGMAI e se OpenAI terrà conto delle indicazioni ricevute. Tra le perplessità c’è anche quella relativa alla composizione estremamente ristretta ed elitaria del gruppo: alcuni ricercatori ritengono che nove matematici, per quanto autorevoli, possano non essere sufficienti a rappresentare le esigenze di una comunità molto più ampia.

La sfida sarà quindi anche quella di conquistare la fiducia dei matematici. Hairer ha riconosciuto che i membri del gruppo dovranno essere consapevoli del rischio che le loro dichiarazioni possano essere utilizzate all’interno della comunicazione pubblica dei laboratori di IA. Allo stesso tempo, secondo il matematico, sarebbe difficile ignorare il fenomeno e rifiutare qualsiasi dialogo con le aziende che stanno modificando rapidamente il modo in cui viene svolta la ricerca.

Per OpenAI, dunque, AGMAI rappresenta un tentativo di creare un rapporto più strutturato con il mondo della matematica proprio mentre i suoi modelli iniziano a produrre risultati sempre più ambiziosi. Resta da capire quanto questo nuovo organismo riuscirà effettivamente a influenzare le modalità con cui tali risultati verranno verificati, pubblicati e comunicati in futuro.