OpenAI paga centinaia di revisori per leggere le chat di ChatGPT

Quando utilizziamo ChatGPT tendiamo naturalmente a percepire la conversazione come un’interazione privata tra noi e il chatbot, soprattutto quando utilizziamo il servizio per raccontare situazioni personali, chiedere consigli o lavorare su contenuti riservati. Dietro le quinte però, esiste anche un’attività di revisione umana delle conversazioni reali, che secondo una nuova inchiesta coinvolge centinaia di collaboratori esterni pagati da OpenAI.

Il programma interno, denominato Project Lily, prevede che i revisori leggano richieste reali degli utenti e valutino le risposte generate da ChatGPT con l’obbiettivo di migliorare il comportamento dei modelli. Il problema è che le conversazioni possono contenere informazioni personali e sensibili e, in alcuni casi, anche interi scambi tra l’utente e il chatbot.

Segui TuttoTech.net su Google Discover

Project Lily porta esseri umani dentro le conversazioni di ChatGPT

La documentazione interna visionata dai colleghi di 404 Media descrive un sistema nel quale i collaboratori esterni ricevono messaggi provenienti da utenti reali. Il loro compito non consiste semplicemente nel leggere una singola frase, il flusso può comprendere conversazioni complete e prevede diverse fasi di valutazione.

Il revisore deve innanzitutto leggere la richiesta dell’utente, poi riassumere ciò che ritiene che la persona stia effettivamente cercando di ottenere e infine analizzare una serie di risposte generate da ChatGPT. Le risposte vengono valutate sulla base di quanto siano utili, precise, naturali e coerenti con il comportamento atteso dal modello.

Il sistema assegna quindi un punteggio da 1 a 7, dove 1 rappresenta una risposta inaccettabile e 7 una risposta difficilmente migliorabile in modo significativo. I revisori devono anche spiegare le ragioni della valutazione e indicare quali elementi della risposta risultano allineati o non allineati alle indicazioni ricevute, ed è proprio dai documenti di Project Lily che emerge quanto questo lavoro possa essere dettagliato visto tra gli aspetti presi in considerazione c’è persino l’uso delle emoji. Una guida, per esempio, considera non allineato l’uso superfluo dell’emoji del segno di sputa, mentre precisa che il contesto è fondamentale: un’emoji di un albero può essere appropriata parlando della Giornata degli Alberi, mentre alcune emoji utilizzate in contesti legati alla morte o a un incidente mortale possono rendere la risposta inadeguata.

Una parte importante del lavoro riguarda proprio il modo in cui ChatGPT comunica. I documenti mostrano che OpenAI vuole evitare risposte eccessivamente antropomorfizzate, adulatrici o costruite per creare un falso senso di coinvolgimento personale; il modello dovrebbe invece mantenere un tono naturale, misurato e professionale, senza presentarsi come un essere umano dotato di esperienze o emozioni proprie.

Il materiale esaminato non specifica quale modello OpenAI venga effettivamente addestrato attraverso questo programma, né chiarisce se si tratti di un modello già disponibile oppure destinato a una futura pubblicazione. L’unico riferimento presente nei documenti è il nome in codice Project Lily.

I nomi vengono nascosti, ma non tutto può essere anonimizzato

La questione più delicata riguarda naturalmente la privacy, i revisori non possono vedere il nome dell’utente associato alla conversazione, ma questo non significa necessariamente che il contenuto che arriva davanti ai loro occhi sia completamente anonimo.

Secondo la documentazione, sopra alcuni prompt compare infatti un riepilogo delle memorie dell’utente, che può fornire informazioni su come quella persona ha utilizzato ChatGPT in precedenza e, in determinati casi, anche indicazioni sul luogo in cui potrebbe vivere o altri dettagli personali.

OpenAI afferma di utilizzare un modello denominato Privacy Filter prima di inviare le conversazioni ai collaboratori esterni. Il sistema è progettato per individuare e rimuovere le informazioni personali, ma l’azienda stessa riconosce che il filtro può commettere errori, non identificare alcuni elementi insoliti o ambigui e oscurare troppo o troppo poco determinate informazioni quando il contesto disponibile è limitato.

È quindi possibile che qualche informazione personale o sensibile raggiunga comunque i revisori, ed è proprio questo uno degli aspetti più significativi della vicenda, considerando quanto spesso gli utenti utilizzino i chatbot per parlare di questioni intime, professionali o personali.

La ricercatrice Michal Luria, del Center for Democracy & Technology, sottolinea proprio questo problema: le interfacce del chatbot possono creare un falso senso di intimità e privacy, facendo apparire la conversazione come un rapporto individuale quando, dall’altra parte, potrebbero esserci persone incaricate di leggere quei contenuti. Secondo Luria, è una situazione diversa dalla moderazione dei social network, dove la pubblicazione di un contenuto comporta già un’aspettativa di esposizione e moderazione da parte della piattaforma.

404 Media ha inoltre chiesto a OpenAI se gli utenti vengano informati esplicitamente della possibilità che gli esseri umani esaminano le loro conversazioni per migliorare le risposte di ChatGPT. L’azienda non ha risposto direttamente alla domanda. Dopo la pubblicazione dell’inchiesta ha invece indicato una pagina di supporto nella quale viene spiegato che i contenuti possono essere esaminati per migliorare le prestazioni dei modelli.

La questione assume un peso ulteriore alla luce del quadro europeo, nello specifico a una sentenza della Corte di giustizia dell’Unione Europea, secondo la quale l’obbligo di informare le persone sul trattamento dei dati ricade sul titolare già nel momento della raccolta. In altre parole, il fatto che un revisore non possa vedere direttamente il nome dell’utente non sarebbe sufficiente, da solo, a escludere l’obbligo informativo.

In Italia inoltre, il Garante per la protezione dei dati personali aveva già sanzionato OpenAI con una multa da 15 milioni di euro, nove dei quali relativi a un trattamento considerato privo di un’adeguata base giuridica, imponendo anche una campagna informativa della durata di sei mesi attraverso televisione e radio.

L’impostazione “Migliora il modello per tutti” è attiva di default

C’è poi un elemento particolarmente importante per chi utilizza ChatGPT: la possibilità di impedire che le nuove conversazioni vengano utilizzate per migliorare i modelli.

L’impostazione si chiama “Migliora il modello per tutti” e, secondo le informazioni riportate, è attiva per impostazione predefinita sugli account gratuiti, Plus e Pro; gli utenti che non vogliono contribuire al miglioramento dei modelli attraverso le proprie conversazioni devono quindi disattivarla manualmente.

La modifica riguarda le conversazioni successive alla disattivazione e non sembra avere effetto retroattivo. I clienti Enterprise, Business ed Edu, invece, hanno l’impostazione disattivata di default.

La revisione umana inoltre, non è un meccanismo esclusivo di OpenAI, sembra che anche Anthropic utilizzi revisori umani per migliorare i propri modelli, ma in questo caso la revisione è legata all’attivazione di una specifica impostazione sulla privacy. Anthropic afferma inoltre di rimuovere gli identificativi dell’account prima della revisione, e anche Google avverte gli utenti di Gemini che alcune chat salvate possono essere esaminate da persone per migliorare i sistemi di intelligenza artificiale.

Interessante anche il lato meno visibile della filiera. Una persona che lavora alla revisione dei prompt in Nord America ha raccontato di essere pagata più di 50 dollari all’ora e di aver trovato il lavoro attraverso Crossing Hurdles, società che mette in contatto professionisti con attività legate alla formazione e alla valutazione dell’intelligenza artificiale. Secondo il lavoratore, è però Mercor a pagare direttamente i collaboratori che lavorano sui prompt di ChatGPT.

Il lavoro, per quanto ben retribuito nel caso raccontato, viene descritto come molto meccanico e caratterizzato da indicazioni che possono cambiare frequentemente e risultare persino contraddittorie.

Sarah T. Roberts, professoressa alla UCLA, ha utilizzato un’immagine particolarmente efficace per descrivere questa situazione, paragonando la scoperta dei revisori umani al Mago di Oz: dietro quello che sembra un sistema autonomo e quasi magico ci sarebbe, in realtà, una persona dietro la tenda che aziona le leve. La metafora mette in evidenza un paradosso importante, sistemi presentati come sempre più autonomi continuano ad avere bisogno di un intervento umano costante per essere addestrati e perfezionati.

La vicenda di Project Lily mostra quindi un aspetto spesso poco visibile dei moderni chatbot. Dietro risposte che sembrano prodotte esclusivamente dall’intelligenza artificiale continua a esserci un importante lavoro umano di valutazione e perfezionamento; allo stesso tempo, proprio la natura apparentemente privata delle conversazioni rende particolarmente importante sapere come vengono trattati i contenuti che affidiamo quotidianamente a questi strumenti.