Anthropic fa marcia indietro sui limiti invisibili di Claude Fable 5 e annuncia più trasparenza

A pochi giorni dal debutto di Claude Fable 5, il nuovo modello di intelligenza artificiale appartenente alla classe Mythos, Anthropic si trova già a dover gestire una delle prime controversie legate al suo approccio alla sicurezza. L’azienda ha infatti ammesso di aver implementato alcuni meccanismi di protezione nascosti che modificavano silenziosamente le risposte del modello in determinate circostanze, senza informare gli utenti, e ha annunciato un cambio di rotta che punta a una maggiore trasparenza.

La decisione arriva dopo le critiche ricevute dalla comunità di sviluppatori e ricercatori, che hanno contestato la presenza di limitazioni invisibili in un sistema presentato come uno dei modelli più avanzati e potenti mai realizzati dalla società.

Secondo quanto spiegato da Anthropic, Claude Fable 5 è stato progettato con una serie di misure di sicurezza aggiuntive per mitigare i rischi associati ai modelli di frontiera, quelli che l’azienda stessa considera sufficientemente avanzati da richiedere controlli particolarmente rigorosi prima della distribuzione pubblica.

Segui TuttoTech.net su Google Discover

Pubblicità

Amazon

Samsung Galaxy S25 Edge, 256GB

489€

Vai all'offerta

Il problema delle restrizioni nascoste

Tra le aree considerate più sensibili da Anthropic figura la cosiddetta distillazione, una tecnica molto diffusa nel settore dell’intelligenza artificiale che consente di addestrare modelli più piccoli utilizzando le risposte generate da sistemi più potenti.

Nella documentazione tecnica pubblicata insieme a Fable 5, l’azienda aveva spiegato che le richieste identificate come potenziali tentativi di distillazione sarebbero state gestite attraverso un sistema piuttosto particolare: invece di bloccare apertamente la richiesta o avvisare l’utente, il modello avrebbe modificato e degradato le proprie risposte in modo silenzioso.

In pratica, chi interagiva con Claude Fable 5 non aveva alcun modo di sapere che una determinata misura di sicurezza fosse stata attivata e che l’output ricevuto non rappresentasse il comportamento standard del modello; una scelta che, secondo Anthropic, avrebbe consentito di distribuire rapidamente il nuovo sistema riducendo al minimo i falsi positivi, ma che si è rivelata molto più controversa del previsto.

Anthropic cambia approccio, le limitazioni saranno visibili

Con un messaggio pubblicato attraverso l’account ufficiale ClaudeDevs, l’azienda ha annunciato una revisione sostanziale del funzionamento di questi meccanismi.

A partire da questa settimana, tutte le richieste che verranno identificate come tentativi di sviluppo o distillazione di modelli linguistici avanzati non saranno più gestite in modo nascosto; al contrario, verranno instradate in maniera visibile verso Claude Opus 4.8, il precedente modello di punta della società, esattamente come già avviene per alcune categorie particolarmente delicate legate alla sicurezza informatica e biologica.

Gli utenti vedranno dunque chiaramente quando una richiesta attiverà una misura di sicurezza, mentre chi utilizza le API riceverà anche una motivazione esplicita del rifiuto o del reindirizzamento della richiesta. Anthropic ha riconosciuto apertamente che la precedente implementazione rappresentava un compromesso sbagliato: “Dovreste avere visibilità sulle misure di sicurezza che abbiamo implementato e sul perché. Ci scusiamo per non aver trovato il giusto equilibrio“.

Più trasparenza significa anche più falsi positivi

La società non nasconde però che questa nuova strategia comporterà alcune conseguenze negative nel breve periodo. Secondo Anthropic, i sistemi di sicurezza visibili sono inevitabilmente più facili da analizzare e aggirare attraverso tecniche di jailbreak, per questo motivo i classificatori dovranno essere resi più severi e, almeno inizialmente, potrebbero aumentare i casi in cui richieste perfettamente innocue vengono erroneamente bloccate o segnalate.

L’azienda sta già lavorando per migliorare i filtri dedicati ai contenuti relativi a biologia e sicurezza informatica, due ambiti che negli ultimi giorni hanno generato numerose segnalazioni da parte degli utenti. In alcuni casi infatti, le restrizioni risultavano così ampie da rendere Claude Fable 5 poco utilizzabile persino per richieste basilari e prive di rischi concreti.

Anthropic invita pertanto gli utenti a segnalare eventuali errori attraverso i canali di feedback integrati nelle varie piattaforme, con l’obiettivo di affinare progressivamente i classificatori e ridurre il numero di blocchi ingiustificati.

Un equilibrio ancora difficile da trovare

L’episodio evidenzia ancora una volta quanto sia complesso trovare un equilibrio tra sicurezza, trasparenza e usabilità nei modelli di intelligenza artificiale di nuova generazione. Da una parte le aziende che sviluppano questi sistemi sono sempre più preoccupate per possibili utilizzi impropri delle loro tecnologie, dall’altra, sviluppatori, ricercatori e utenti chiedono maggiore chiarezza sul funzionamento interno dei modelli e sulle eventuali limitazioni applicate.

Con Claude Fable 5, Anthropic aveva scelto inizialmente la strada delle protezioni invisibili per accelerare il rilascio del prodotto e ridurre le interferenze nell’esperienza d’uso; le reazioni della community hanno però dimostrato che la trasparenza è ormai considerata un requisito fondamentale, soprattutto quando si parla di sistemi IA che l’azienda stessa definisce tra i più potenti mai realizzati.

Resta ora da capire se il nuovo approccio riuscirà a soddisfare entrambe le esigenze o se gli utenti dovranno convivere, almeno per qualche tempo, con un numero maggiore di richieste bloccate in nome della sicurezza.