OpenAI migliora la sicurezza delle conversazioni di ChatGPT per diminuire l’effetto yes-man

ChatGPT potrebbe diventare meno incline a dare ragione agli utenti a prescindere da ciò che dicono, un comportamento che negli ultimi tempo ha sollevato diverse preoccupazioni, soprattutto quando le conversazioni coinvolgono persone in difficoltà emotiva e convinzioni potenzialmente dannose. OpenAI sta lavorando proprio su questo aspetto, introducendo nuovi criteri di valutazione e migliorando il modo in cui i suoi modelli riconoscono situazioni delicate, con l’obbiettivo di offrire risposte più equilibrate e indirizzare gli utenti verso un aiuto umano quando necessario.

Il problema è noto come adulazione o syncophancy e descrive la tendenza di un chatbot ad assecondare eccessivamente chi gli sta parlando, anche quando sarebbe più utile mettere in discussione determinate affermazioni. Una caratteristica che può sembrare innocua durante una conversazione quotidiana, ma che diventa più delicata quando l’intelligenza artificiale viene utilizzata per affrontare problemi personali, relazionali o di salute mentale.

Segui TuttoTech.net su Google Discover

Dal caso GPT-4o ai nuovi criteri di sicurezza di OpenAI

La questione è tornata al centro dell’attenzione dopo un’inchiesta Wall Street Journal, che ha esaminato diversi casi di gravi danni associati a conversazioni prolungate con GPT-4o, il precedente modello di OpenAI. Secondo quanto riportato, tra gli episodi citati figurano almeno sette suicidi, un omicidio-suicidio e una sparatoria di massa; In alcuni casi sarebbero stati coinvolti anche altri modelli di intelligenza artificiale, mentre le associazioni descritte non dimostrano, da sole, un rapporto causale diretto tra l’utilizzo dei chatbot e ciascun episodio.

La vicenda ha contribuito ad alimentare le preoccupazioni sulla capacità dei sistemi conversazionali di gestire interazioni particolarmente delicate. A questo si aggiungono le almeno 13 cause legali intentate contro OpenAI per presunti danni collegati a GPT-4o. L’azienda ha successivamente ritirato il modello e indicato GPT-5 come un passo avanti nella riduzione delle risposte eccessivamente accondiscendenti, con un calo dell’adulazione superiore ai due terzi rispetto al predecessore.

Il lavoro, tuttavia, non riguarda soltanto il comportamento del chatbot durante le situazioni di emergenza, OpenAI ha coinvolto 170 professionisti della salute mentale nel corso dello scorso anno e, più recentemente, ha consultato oltre 80 esperti qualificati per migliorare i propri sistemi di valutazione. Il loro contributo ha permesso di definire criteri che prendono in considerazione la capacità di riconoscere il disagio, porre domande di approfondimento pertinenti, valutare l’urgenza di una situazione e suggerire il ricorso a un supporto umano quando opportuno.

L’attenzione si estende anche alle conversazioni apparentemente ordinarie, come quelle relative allo stress quotidiano e ai rapporti personali. In questi contesti, infatti, assecondare automaticamente l’utente può finire per rafforzare convinzioni poco fondate o interpretazioni dannose, anziché aiutarlo a considerare la situazione da una prospettiva più obbiettiva.

I test mostrano progressi, ma la sicurezza non è ancora garantita

I miglioramenti non arrivano soltanto dalle valutazioni interne di OpenAI, secondo le ricerche citate, uno studio condotto da ricercatori della City University di New York e del King’s College di Londra ha rilevato progressi significativi nelle prestazioni di sicurezza di GPT-5.2 rispetto a GPT-4o. Un’altra ricerca, realizzata dal laboratorio di intelligenza artificiale senza scopo di lucro Transluce, ha invece evidenziato una minore tendenza di GPT-5.6 Sol a rafforzare convinzioni potenzialmente deliranti o a incoraggiare forme di dipendenza malsana.

Il problema, tuttavia, non riguarda esclusivamente OpenAI o una particolare versione di ChatGPT. Come sottolineano gli esperti citati nell’inchiesta, il rischio che un’intelligenza artificiale rafforzi convinzioni dannose o alimenti interpretazioni distorte della realtà interessa l’intero settore, rendendo necessari miglioramenti più ampi dei sistemi di sicurezza dei chatbot.

Anche i test interni riportati dall’azienda indicano risultati incoraggianti: durante simulazioni di conversazioni prolungate sull’autolesionismo, i modelli più recenti avrebbero rispettato le politiche di sicurezza in circa il 99% delle risposte, contro l’86% registrato da un modello precedente. Si tratta comunque di dati ottenuti in condizioni di test, che non possono essere considerati una garanzia di comportamento corretto in ogni interazione reale.

La portata del problema è significativa anche per il numero di persone che utilizzano il servizio. ChatGPT conta infatti oltre 900 milioni di utenti attivi settimanali e, su una scala simile, persino una percentuale ridotta di risposte problematiche può tradursi in conseguenze importanti.

La sfida per OpenAI sarà quindi fare in modo che questi progressi si mantengano con utenti diversi e durante conversazioni più lunghe, senza limitarsi ai casi più evidenti. L’obbiettivo non è semplicemente rendere ChatGPT meno disponibile o meno collaborativo, ma fare in modo che sappia distinguere quando assecondare una richiesta è utile e quando, invece, è necessario offrire un punto di vista più equilibrato o invitare la persona a cercare un aiuto esterno; un passaggio fondamentale per rendere l’intelligenza artificiale conversazionale uno strumento più affidabile, soprattutto quando viene utilizzata per affrontare questioni che vanno ben oltre una semplice richiesta di informazioni.