Anthropic ha deciso di introdurre il watermarking del testo generato da Claude per conformarsi all’AI Act dell’Unione Europea, e questa settimana ha pubblicato un post approfondito per spiegare come funzionerà tecnicamente. La mossa ha già scatenato reazioni contrastanti, ma prima di ogni altra considerazione vale la pena capire il meccanismo concreto dietro a questa scelta.

Segui TuttoTech.net su Google Discover

Pubblicità-24%Dreame L10s Ultra Gen 3
Amazon
Dreame L10s Ultra Gen 3
379€499€
Vai all'offerta

Come funziona il watermark nascosto di Claude

Il principio di base è che i modelli AI generano testo scegliendo ripetutamente quale token potrebbe seguire il precedente. Il watermark di Claude non modifica la risposta a posteriori né aggiunge caratteri nascosti: cambia piuttosto la fonte di casualità usata nel momento in cui vengono effettuate alcune di queste scelte. In pratica, quando il modello si trova davanti a opzioni equivalenti scegliere tra “nuvoloso” e “grigio” per fare l’esempio usato da Anthropic può orientarsi verso una di esse seguendo uno schema che risulta invisibile al lettore ma rilevabile da chiunque possieda la chiave di decodifica.

Anthropic adotterà l’approccio SynthID-Text, sviluppato dal team di Google DeepMind e presentato nel 2024, e ha annunciato il rilascio di una API per il rilevamento del watermark. È fondamentale distinguere questo sistema dai tradizionali strumenti di rilevamento dell’AI, come quelli offerti da aziende quali Pangram, che cercano pattern stilistici nel testo (costruzioni ricorrenti, frasi tipiche) per intuire se un contenuto sia stato generato da una macchina. Il watermark è qualcosa di strutturalmente diverso: non legge lo stile, verifica la presenza di un segno codificato.

Un aspetto tecnico rilevante riguarda il codice sorgente: per sua natura, il codice non lascia molta libertà di scelta tra opzioni equivalenti, perché deve funzionare. Il watermark sarà quindi molto meno presente rispetto al testo in linguaggio naturale. L’azienda ha precisato che potrà comunque agire in aree con scelte arbitrarie, come i commenti nel codice, ma che il suo effetto sul codice effettivo sarà trascurabile. Vale anche la pena sapere che il modello non è consapevole di essere sottoposto a watermarking, come confermato da un ingegnere di Anthropic.

Per quanto riguarda i file come SVG, PNG e JPG, il sistema funziona in modo differente: Claude allega metadati di provenienza firmati basati sullo standard aperto C2PA (Coalition for Content Provenance and Authenticity), che possono indicare che un file è stato elaborato da Claude e aiutare a verificare se sia stato alterato. Questi metadati sono però più vulnerabili: una conversione di formato, un salvataggio alternativo, uno screenshot o processi simili possono rimuovere il contrassegno, rendendo il file non più tracciabile.

Cosa succede con le modifiche e dove viene applicato

Una delle domande più concrete è: si può cancellare il watermark modificando il testo? Anthropic risponde con onestà: una leggera revisione probabilmente non rimuoverà completamente il segno, mentre una riscrittura integrale in cui ogni parola viene sostituita sì. L’azienda aggiunge però una considerazione logica: se si riscrive completamente un testo, è lecito chiedersi se quel contenuto possa ancora essere definito “generato dall’AI”.

Il discorso si complica per i testi solo revisionati o corretti da Claude. In quel caso, l’entità del watermark dipenderà dalla lunghezza del testo e dall’intensità dell’intervento: se l’editing è stato leggero, quasi tutte le parole rimarranno quelle dell’autore umano e ci sarà poco a cui il watermark possa agganciarsi.

Sul fronte dell’applicazione pratica, il watermarking verrà implementato a livello globale, non solo nell’Unione Europea, e riguarderà tutte le superfici di Claude: dall’API a Claude Code, Claude Cowork e Claude Tag, incluse le integrazioni con partner cloud come AWS, Google Cloud e Microsoft Foundry. I modelli lanciati prima del 2 agosto 2026 sono coperti da un periodo di transizione, e Anthropic ha dichiarato di essere al lavoro per estendere il watermarking anche a questi nei prossimi mesi.

Il contesto normativo è preciso: l’articolo 50 dell’AI Act UE, diventato applicabile proprio il 2 agosto, richiede ai fornitori di AI generativa di contrassegnare i propri output in formati leggibili da macchina. Le sanzioni per chi non si adegua possono arrivare fino a 15 milioni di euro o al 3% del fatturato annuo mondiale complessivo dell’azienda, a seconda di quale dei due valori sia più alto. Anthropic è tra le oltre 200 aziende che hanno aderito al codice di condotta UE sulla trasparenza dell’AI, insieme a OpenAI, Meta, Google e Microsoft, e non sarà quindi l’unica a implementare un sistema simile.

Le preoccupazioni reali

Nonostante le spiegazioni tecniche rassicuranti di Anthropic “il watermarking non impatta la qualità dell’output” e “una risposta con watermark è indistinguibile da una senza” le reazioni online sono state accese. Su Reddit c’è chi ha parlato di cospirazione contro gli utenti e chi ha risposto che l’unico motivo per opporsi sarebbe voler ingannare qualcuno. Secondo quanto riportato da Business Insider, decine di utenti su X avrebbero già cancellato il proprio abbonamento a Claude.

Al di là delle reazioni più polarizzate, esiste però una preoccupazione tecnica legittima: il rischio di falsi positivi. Rilevare un watermark di Claude in un testo non equivale a confermare che “l’AI ha scritto questo”: potrebbe trattarsi di un testo lievemente modificato, o di un documento su cui Claude ha effettuato una revisione parziale. Scuole e datori di lavoro che trattassero il watermark come prova definitiva della paternità artificiale starebbero facendo un’inferenza che il sistema non è progettato a supportare, e questo apre scenari potenzialmente problematici in contesti accademici o professionali.

C’è poi una questione di mercato: chi produce contenuti con l’aiuto di Claude e non vuole che i propri clienti o lettori ne conoscano la provenienza si trova ora in una posizione scomoda. Questa dinamica, unita a precedenti episodi di frustrazione legati a cambiamenti di prezzo e salvaguardie del modello, potrebbe spingere ulteriormente verso i modelli open weight, che per definizione non sono soggetti a questo tipo di vincoli normativi.