Negli ultimi giorni il dibattito sui modelli di intelligenza artificiale open-weight si è intensificato, soprattutto dopo alcune indiscrezioni secondo cui i funzionari statunitensi starebbero valutando restrizioni nei confronti dei modelli sviluppati in Cina. In questo contesto, Dario Amodei, CEO di Anthropic, ha deciso di intervenire pubblicamente per chiarire la posizione dell’azienda e rispondere alle critiche ricevute.

Attraverso un lungo intervento pubblicato sul sito ufficiale di Anthropic, Amodei ha smentito una delle accuse che circolavano negli ultimi giorni: la società non ha mai chiesto di vietare i modelli open-weight e, anzi, riconosce il valore che questi possono offrire all’intero ecosistema dell’intelligenza artificiale.

Segui TuttoTech.net su Google Discover

Pubblicità-34%roborock Qrevo S Pro
Amazon
roborock Qrevo S Pro
389,99€589,99€
Vai all'offerta

Anthropic difende i modelli open-weight, ma chiede maggiori garanzie sulla sicurezza

Secondo Amodei, i modelli open-weight che non presentano capacità pericolose rappresentano un vero e proprio bene pubblico, una volta resi disponibili possono essere utilizzati da aziende, sviluppatori e ricercatori senza costi aggiuntivi oltre a quelli necessari per l’esecuzione, favorendo così innovazione, concorrenza e diffusione dell’IA.

Il chiarimento arriva dopo una fase particolarmente intensa del dibattito, alimentata anche dalla lettera aperta firmata da NVIDIA e da decine di aziende del settore, che invitava i decisori politici a non introdurre restrizioni premature nei confronti dei modelli open-weight. In quel contesto, Anthropic era stata indicata da alcuni osservatori come una delle aziende favorevoli a un possibile divieto, ipotesi che Amodei ha ora smentito in maniera esplicita.

Secondo il CEO, vietare alle aziende statunitensi di utilizzare modelli open-weight provenienti dalla Cina non rappresenterebbe una soluzione efficace ai problemi di sicurezza nazionale e finirebbe principalmente per limitare la concorrenza tra aziende, senza incidere realmente sulle minacce più importanti.

I due rischi che preoccupano Amodei

Pur difendendo i modelli open-weight, Amodei ribadisce che esistono due scenari che considera particolarmente pericolosi. Il primo riguarda la possibilità che governi autoritari, con il Partito Comunista Cinese indicato come l’esempio più concreto ma non l’unico, sviluppino sistemi di intelligenza artificiale più avanzati di quelli statunitensi e li utilizzino per ottenere un vantaggio militare permanente, oppure per rafforzare strumenti di sorveglianza e repressione della popolazione.

In questo scenario, secondo il CEO di Anthropic, il fatto che un modello venga distribuito come open-weight è sostanzialmente irrilevante; il rischio maggiore sarebbe infatti rappresentato dai modelli sviluppati in segreto e destinati esclusivamente all’impiego governativo, ad esempio per applicazioni militari, sistemi di sorveglianza o intelligence.

La seconda preoccupazione riguarda invece il possibile utilizzo improprio dei modelli di intelligenza artificiale più potenti per condurre attacchi informatici, sviluppare minacce biologiche o aggirare i meccanismi di sicurezza e allineamento.

Amodei riconosce che i modelli open-weight possono presentare rischi superiori rispetto a quelli closed-weight, poiché una volta pubblicati i loro pesi non possono più essere ritirati ed è molto più difficile applicare limitazioni o monitorarne l’utilizzo; tuttavia, anche in questo caso ritiene che vietarne l’uso alle aziende americane non impedirebbe a soggetti malevoli di accedervi.

Le tre proposte di Anthropic

Piuttosto che introdurre un divieto generalizzato dei modelli open-weight, Anthropic propone tre interventi che considera più efficaci.

Il primo consiste nel rafforzare le restrizioni sulla vendita alla Cina dei chip più avanzati e delle apparecchiature necessarie per produrli, contrastando anche il contrabbando e i tentativi di aggirare i controlli già esistenti. Secondo Amodei, la limitata capacità produttiva interna cinese rende i semiconduttori statunitensi un elemento determinante per lo sviluppo dei modelli di frontiera.

Il secondo intervento riguarda la cosiddetta distillazione, una tecnica che permette di ricreare parte delle capacità di un modello avanzato con costi computazionali molto inferiori rispetto all’addestramento da zero. Secondo il CEO di Anthropic, contrastare le operazioni di distillazione su scala industriale limiterebbe la possibilità di ridurre rapidamente il divario tecnologico rispetto agli Stati Uniti, senza che sia necessario vietare i modelli open-weight.

La terza proposta è probabilmente quella più importante: introdurre test di sicurezza obbligatori per tutti i modelli di intelligenza artificiale sufficientemente avanzati, indipendentemente dal fatto che siano open-weight o closed-weight. L’obbiettivo sarebbe valutare concretamente i rischi legati agli attacchi informatici, alle minacce biologiche e ai problemi di allineamento prima della loro distribuzione.

Secondo Amodei, questa idea sta ormai raccogliendo un consenso sempre più ampio sia all’interno dell’industria sia tra i decisori politici statunitensi; per essere realmente efficace tuttavia, un sistema di test dovrebbe coinvolgere anche altri Paesi, inclusa la Cina, almeno per quanto riguarda la prevenzione delle minacce biologiche legate all’intelligenza artificiale.

Sicurezza e apertura non sono necessariamente in contrasto

Nel suo intervento, Amodei afferma di condividere buona parte dei contenuti della recente lettera aperta firmata da numerose aziende tecnologiche, riconoscendo che i modelli open-weight favoriscono l’accesso all’economia dell’intelligenza artificiale, aumentano la concorrenza e offrono agli utenti un maggiore controllo.

Ci sono però due punti sui quali il CEO di Anthropic mantiene una posizione diversa. Il primo riguarda l’idea che i modelli open-weight rendano automaticamente più semplice sviluppare sistemi di sicurezza efficaci, il secondo è la convinzione che una diffusione più ampia delle capacità dell’IA favorisca sempre i difensori rispetto agli attaccanti.

Per spiegare questa posizione, Amodei porta l’esempio della biologia, secondo il CEO modelli sufficientemente avanzati potrebbero rendere molto più semplice trasformare agenti patogeni in potenziali armi biologiche, mentre la realizzazione di contromisure efficaci richiede generalmente anni di ricerca e sviluppo. Proprio per questo motivo, ritiene che il livello di rischio dei modelli open-weight debba essere stabilito attraverso rigorosi test prima del rilascio e non sulla base di ipotesi formulate a priori.

L’intervento di Anthropic contribuisce così a chiarire una posizione che negli ultimi giorni era stata oggetto di numerose interpretazioni, l’azienda non sostiene il divieto dei modelli open-weight, ma ritiene che la sicurezza dell’intelligenza artificiale debba passare attraverso controlli più rigorosi, una maggiore tutela delle tecnologie strategiche e misure mirate per limitare gli usi potenzialmente più pericolosi dell’IA.

Potrebbero interessarti anche: