Anthropic ha scoperto scienziati che usavano Claude per ricerche sulle armi biologiche

Anthropic ha individuato e bloccato diversi scienziati che stavano utilizzando i suoi modelli di intelligenza artificiale per attività di ricerca potenzialmente collegate allo sviluppo di armi biologiche. L’azienda ha descritto i casi all’interno di un nuovo rapporto dedicato agli utilizzi impropri dei propri modelli, nel quale vengono analizzate diverse situazioni che hanno richiesto l’intervento dei sistemi di sicurezza.

Il documento raccoglie cinque casi di studio relativi all’utilizzo dell’IA nella ricerca biologica, ma non si limita a questo ambito: Anthropic ha infatti documentato anche episodi riguardanti sorveglianza, creazione di exploit software, propaganda e sistemi d’arma.

Il problema assume un’importanza sempre maggiore anche considerando quanto i modelli di intelligenza artificiale più recenti siano diventati capaci di supportare la ricerca scientifica. La stessa Anthropic cita, in questo contesto, Fable 5, evidenziando come l’evoluzione delle loro capacità renda ancora più importante riuscire a individuare eventuali utilizzi impropri.

Segui TuttoTech.net su Google Discover

Pubblicità-44%

Amazon

MOVA Z60 Ultra Roller

499€899€

Vai all'offerta

Claude utilizzato per ricerche di tipo “gain-of-function”

Uno dei casi più delicati riguarda una richiesta intercettata a maggio nel classificatore di sicurezza biologica di Anthropic, un utente aveva utilizzato Claude per preparare una domanda di finanziamento relativa a una ricerca di tipo “gain-of-function” sul virus Chikungunya.

Si tratta di un tipo di ricerca che può prevedere la modifica genetica di un organismo per studiarne determinate caratteristiche. Nel caso individuato da Anthropic, la proposta prevedeva di aumentare la trasmissibilità del virus e la sua capacità di eludere la risposta immunitaria.

La situazione è stata considerata particolarmente preoccupante anche perché la ricerca proposta risultava collegata a un istituto di ricerca militare. Anthropic ha quindi deciso di intervenire, anche considerando le possibili conseguenze di un utilizzo improprio delle informazioni.

L’azienda ha individuato problematiche simili anche in relazione a una ricerca di tipo gain-of-function sull’influenza aviaria. Un altro caso riguardava invece un ricercatore che aveva utilizzato Claude per sviluppare un atlante di peptidi di tossine velenose e una pipeline generativa destinata a ottimizzare alcune caratteristiche delle tossine.

Come sottolineato da Anthropic, tuttavia, distinguere tra una ricerca scientifica legittima e un’attività potenzialmente pericolosa non è sempre semplice; una ricerca finalizzata allo sviluppo di un nuovo vaccino, per esempio, può presentare caratteristiche simili a quelle di una ricerca che potrebbe essere utilizzata per sviluppare un’arma biologica.

La difficoltà è stata spiegata da Jacob Klein, responsabile dell’intelligence sulle minacce di Antropic, che ha descritto la complessità di questi casi: Non si tratta di qualcuno che, come nei fumetti, dice “Ehi, voglio costruire un’arma biologica per uccidere tutti”, ha spiegato Klein, sottolineando come le situazioni individuate siano molto meno semplici da interpretare.

Anthropic sceglie la cautela e blocca gli account

Proprio questa difficoltà rende particolarmente delicato il lavoro dei sistemi di sicurezza, secondo Anthropic i casi individuati non riguardavano necessariamente persone che dichiaravano apertamente di voler creare un’arma biologica.

L’azienda ha spiegato che si tratta di situazioni molto più complesse, nelle quali bisogna valutare il contesto delle richieste e il possibile utilizzo delle informazioni generate dall’intelligenza artificiale. Per questo motivo Anthropic afferma di aver scelto di agire con un approccio particolarmente prudente, considerando i possibili rischi associati a questo tipo di ricerca.

Gli account delle persone che hanno utilizzato impropriamente i modelli Claude sono stati bloccati e le informazioni raccolte durante le indagini vengono utilizzate dall’azienda per migliorare ulteriormente i sistemi di sicurezza e impedire che situazioni analoghe possano ripetersi.

Anthropic, inoltre, non ha intenzione di rendere pubblici i nomi degli scienziati o delle istituzioni coinvolte nei casi analizzati. L’azienda sottolinea infatti che si tratta di scienziati ancora in attività e che non sta affermando che avessero intenzioni dannose, rendere identificabili le persone o i laboratori coinvolti potrebbe inoltre esporli a rischi.

Il rapporto mostra quindi una delle sfide più complesse che le aziende impegnate nello sviluppo dell’intelligenza artificiale devono affrontare: gli stessi strumenti che possono accelerare la ricerca scientifica possono anche essere utilizzati in contesti potenzialmente pericolosi. Con modelli sempre più capaci di supportare attività scientifiche e tecniche, individuare il confine tra utilizzo legittimo e abuso diventa ovviamente sempre più importante.