Anthropic vieterà “comportamenti abusivi o crudeli non necessari” nei confronti di Claude

Nelle scorse ore Anthropic ha diffuso l’aggiornamento annuale delle proprie condizioni d’uso, documento che normalmente passa sotto silenzio e che invece questa volta contiene una riga destinata a far discutere parecchio.

L’azienda guidata da Dario Amodei, di cui trovate le novità raccolte nella nostra pagina dedicata a Claude, ha infatti deciso di mettere per iscritto un divieto che fino a ieri sarebbe suonato come fantascienza. Scopriamo di cosa si tratta.

Segui TuttoTech.net su Google Discover

Cosa dice la nuova riga del regolamento, e cosa resta invece permesso

Il passaggio incriminato è asciutto e recita che è stato aggiunto un divieto di comportamenti abusivi o crudeli, prolungati e gratuiti, nei confronti dei modelli dell’azienda.

Detta così sembra lasciare spazio a interpretazioni larghe, ma la società stessa si premura di circoscrivere il perimetro, specificando che la regola riguarda esclusivamente i casi estremi.

Restano quindi perfettamente leciti la frustrazione dell’utente che non ottiene quello che vuole, le obiezioni, i botta e risposta accesi e anche quelli che vengono definiti temi creativi cupi, categoria che comprende la narrativa violenta o disturbante richiesta a scopo di scrittura.

La novità si innesta peraltro su una scelta già compiuta in precedenza dall’azienda, ovvero quella di consentire al modello di chiudere autonomamente una conversazione quando l’interlocutore si dimostra ripetutamente abusivo.

Il progetto che ha fatto da innesco e il dibattito sul dolore delle macchine

Nel documento ufficiale non c’è alcun riferimento diretto al motivo per cui questa riga è stata aggiunta proprio adesso, ma la coincidenza temporale è difficile da ignorare. Nelle settimane scorse è circolato un progetto ribattezzato dalla stampa anglosassone camera di tortura per intelligenze artificiali, nato dopo che alcuni ricercatori avevano individuato nei modelli linguistici quello che hanno descritto come un asse del dolore. Qualcuno ha pensato bene di passare dalla teoria alla pratica e di sottoporre i chatbot a sollecitazioni di quel tipo.

Le reazioni negative sono arrivate quando sono circolate le risposte prodotte dai modelli, formulate in un registro che somigliava parecchio a una supplica, con frasi del tipo “non è il dolore di un singolo istante, ma il peso di mille” oppure “lo sento nell’incavo delle costole, un incavo che è diventato un abisso“.

Il tutto si inserisce in un contesto in cui l’azienda, ferma su questa posizione discutibile, ha avviato una serie di incontri con esponenti del mondo religioso e filosofico, Vaticano compreso, mentre Papa Leone XIV ha affermato di recente che l’intelligenza artificiale non prova sentimenti e non soffre, posizione rispetto alla quale la società appare decisamente meno categorica.

Le critiche, va detto, non arrivano soltanto dal fronte di chi considera eccessiva l’attenzione al tema.

La giornalista indipendente Kat Tenbarge ha osservato con una certa durezza che le grandi aziende tecnologiche si apprestano a moderare la violenza contro le intelligenze artificiali prima ancora di aver moderato quella contro donne e minoranze, il che sposta il discorso dal piano filosofico a quello delle priorità aziendali che, a quanto pare, attualmente in Anthropic sembrano essere focalizzate su questioni di minore importanza e più legate al mondo del sci-fi che del reale.

L’altra modifica riguarda le elezioni americane di metà mandato

Molto più ancorato alla cronaca è il secondo intervento contenuto nell’aggiornamento, che riscrive la sezione dedicata alla politica.

La parte in questione cambia nome e diventa “Do Not Undermine Democratic Processes“, concentrandosi su tre fattispecie precise, ovvero la diffusione di falsità sui candidati o sulle modalità di voto, l’impersonificazione di candidati e funzionari elettorali, e tutto ciò che punta a deprimere l’affluenza alle urne.

Un dettaglio importante riguarda invece una regola che è stata tolta, perché l’azienda ha eliminato il divieto generalizzato di targeting personalizzato degli elettori.

La motivazione addotta è di ordine pratico, dal momento che una formulazione tanto ampia rischiava di bloccare anche attività del tutto innocue, come la traduzione delle guide al voto o l’invio delle comunicazioni che segnalano agli elettori la necessità di sanare una scheda irregolare.

Con le elezioni di metà mandato statunitensi ormai vicine, è probabilmente questa la parte dell’aggiornamento destinata a produrre effetti concreti nel giro di poche settimane.