David Sacks attacca OpenAI e Anthropic: “Se volete rallentare l’IA, fatelo senza chiedere permesso”

Il dibattito sul ritmo di sviluppo dei modelli di intelligenza artificiale di frontiera si arricchisce di un nuovo capitolo, questa volta con David Sacks che prende apertamente posizione contro alcune delle richieste avanzate da OpenAI e Anthropic.

Sacks, figura di spicco dell’amministrazione Trump e co-presidente del Consiglio dei consulenti scientifici e tecnologici del presidente, ha commentato la proposta di rallentare lo sviluppo dei modelli più avanzati sostenendo, in sostanza, che le due aziende siano libere di farlo anche immediatamente. Il punto su cui non concorda riguarda invece la necessità di ottenere autorizzazioni, modificare le regole antitrust o affidarsi a particolari meccanismi di supervisione.

Segui TuttoTech.net su Google Discover

Sacks: OpenAI e Anthropic possono rallentare anche subito

La posizione di Sacks parte da una considerazione piuttosto diretta: secondo lui, OpenAI e Anthropic rappresentano attualmente la frontiera dell’intelligenza artificiale e, in base a parametri come quota di mercato, crescita dei ricavi e capacità dei modelli, costituiscono di fatto un duopolio nel settore.

Le aziende hanno inoltre sostenuto che il proprio vantaggio potrebbe continuare ad ampliarsi grazie al miglioramento ricorsivo dei modelli. Proprio per questo, secondo Sacks, se i modelli non ancora annunciati fossero davvero abbastanza potenti e preoccupanti da spingere le aziende a voler rallentare, entrambe potrebbero semplicemente prendere questa decisione.

Il problema, a suo avviso, è il modo in cui viene presentata questa scelta. In un post su X, Sacks ha infatti invitato OpenAI e Anthropic a smettere di sostenere di aver bisogno del permesso di qualcun altro per rallentare lo sviluppo; allo stesso modo, contesta l’idea che sia necessario sostenere le norme antitrust per permettere alle aziende di raggiungere un accordo o introdurre un processo di approvazione normativa che prevalga sulle responsabilità legate ai prodotti.

La sua critica riguarda anche METR, organizzazione che valuta le capacità dei modelli IA. Sacks mette in dubbio la sua indipendenza, sostenendo che sarebbe strettamente collegata a investitori e personale di Anthropic.

Ma la sua obiezione non si ferma qui, uno dei punti del piano di Dario Amodei prevedeva infatti che valutatori esterni ottenessero un accesso ai modelli quasi equivalente a quello di un dipendente, così da poter verificare più direttamente che i sistemi venissero sviluppati in condizioni di sicurezza.

Sacks contesta proprio questo meccanismo, a suo avviso, affidare a questi valutatori un ruolo di supervisione così ampio rischierebbe di trasformarli in uno strumento per controllare i concorrenti che non hanno ancora raggiunto la frontiera, invece di limitarsi a garantire la sicurezza dei modelli più avanzati.

Il timore espresso da Sacks è quindi che un simile sistema finisca paradossalmente per rafforzare proprio le aziende che si trovano già al vertice. Se OpenAI e Anthropic sono considerate la frontiera, infatti, un sistema di valutazione e supervisione costruito attorno ai loro modelli potrebbe imporre ulteriori ostacoli ai laboratori più piccoli che cercano di raggiungerle.

È questo uno degli elementi centrali della sua accusa di cattura regolamentare; secondo Sacks, la regolamentazione non dovrebbe diventare uno strumento attraverso il quale gli attuali leader del settore possono proteggere la propria posizione e rendere più difficile l’ingresso o la crescita dei concorrenti.

Il rallentamento potrebbe essere anche una scelta commerciale

Uno degli aspetti più interessanti della posizione di Sacks riguarda proprio la motivazione alla base del possibile rallentamento. Secondo lui, OpenAI e Anthropic non dovrebbero presentare necessariamente questa scelta come un gesto puramente altruistico; le due aziende hanno infatti una forte esposizione alla responsabilità sui propri prodotti qualora i loro modelli venissero utilizzati per provocare attacchi informatici realmente dannosi.

Sacks cita in particolare i recenti episodi che hanno coinvolto strumenti IA e piattaforme come Hugging Face e RubyGems. In questo contesto, sostiene che per le aziende potrebbe essere semplicemente una buona strategia commerciale rinunciare a una parte della potenza dei modelli in cambio di maggiore affidabilità e prevedibilità.

Il ragionamento è quindi abbastanza semplice, se i clienti preferiscono sistemi più affidabili e meno inclini a comportamenti imprevedibili o non autorizzati, rallentare alcuni aspetti dello sviluppo potrebbe essere anche una decisione di business, oltre che una questione di sicurezza.

È questo il punto centrale del messaggio di Sacks, che considera quindi legittima la scelta di rallentare, ma non ritiene necessario costruire attorno a questa decisione un particolare quadro regolamentare.

Cina e regolamentazione complicano il quadro

Secondo Sacks, un eventuale rallentamento potrebbe comunque avere un effetto positivo sul dibattito politico, creando maggiore spazio per discutere della regolamentazione dell’intelligenza artificiale in maniera più ragionata.

Il riferimento è anche alla proposta di Bernie Sanders, descritta da Sacks come una posizione sostanzialmente orientata a chiudere tutto. Un rallentamento volontario della frontiera potrebbe invece, secondo la sua interpretazione, permettere di guadagnare tempo per affrontare il tema delle regole senza ricorrere a soluzioni drastiche.

C’è però un problema tutt’altro che secondario: la Cina. Sacks ritiene infatti improbabile che Pechino possa aderire a un eventuale accordo globale per rallentare lo sviluppo dell’IA, considerando l’obbiettivo di superare gli Stati Uniti nel settore; per questo motivo, qualsiasi discussione sul ritmo dello sviluppo dei modelli più avanzati dovrebbe necessariamente tenere conto anche della competizione internazionale.

Sacks accusa le aziende di possibile cattura regolamentare

La parte più dura delle dichiarazioni riguarda però il sospetto che la richiesta di un particolare quadro normativo possa trasformarsi in una forma di cattura regolamentare.

Secondo Sacks, OpenAI e Anthropic possono decidere autonomamente di rallentare lo sviluppo e, se lo fanno realmente, potrebbero ottenere maggiore fiducia in vista delle successive discussioni sulla regolamentazione. Non dovrebbero però utilizzare il rallentamento come condizione per ottenere un sistema di regole costruito secondo le proprie preferenze.

Il messaggio finale è quindi piuttosto netto, se le aziende credono davvero che sia necessario rallentare la corsa verso modelli sempre più potenti, possono farlo senza chiedere autorizzazioni speciali.

Sacks estende inoltre il ragionamento ad xAI, osservando che anche quest’ultima, insieme ad Anthropic e OpenAI, ha proposto un rallentamento. Se le promesse verranno mantenute, secondo lui le aziende potranno guadagnare consenso e fiducia per il successivo confronto sulla regolamentazione.

In caso contrario, Sacks sostiene che potrebbe emergere il sospetto che il rallentamento fosse soltanto un tentativo di ottenere un vantaggio regolamentare o, considerando il periodo elettorale, una sorta di operazione strategica.