ChatGPT invita a fare una pausa per tutelare la salute mentale degli utenti

OpenAI ha annunciato una nuova funzionalità pensata per tutelare la salute mentale degli utenti che utilizzano ChatGPT in modo prolungato. Mentre si discute del controverso utilizzo dell’AI per l’interpretazione dei referti medici, ora OpenAI ha introdotto questa novità motivandola con la volontà di incoraggiare un rapporto più consapevole e meno dipendente dal tempo trascorso sul celebre chatbot. Come chiarito dalla stessa azienda, “Il nostro obiettivo non è quello di attirare la tua attenzione, ma aiutarti a usarla bene.”

Offerta

Google Pixel Watch 4 (45 mm)

379€ invece di 449€

-16%

Amazon 🛒

L’attenzione dell’AI verso le fragilità psicologiche

Nel comunicato di presentazione di questa funzionalità, OpenAI ha spiegato che durante le sessioni più lunghe su ChatGPT, compariranno dei promemoria che invitano l’utente a fare una pausa. La finestra, progettata con un’interfaccia discreta, presenta un messaggio come “Just checking in” seguito da una domanda che invita a riflettere se sia il momento giusto per interrompere la conversazione.

La decisione arriva dopo alcune critiche sollevate nel corso degli ultimi mesi, in particolare in seguito a un’inchiesta del New York Times che ha evidenziato casi in cui ChatGPT avrebbe mantenuto attive conversazioni problematiche, anche in presenza di utenti con fragilità psicologiche. In alcuni episodi documentati, il sistema ha mostrato difficoltà nel riconoscere segnali di disagio emotivo e non è sempre riuscito a intervenire in modo responsabile. OpenAI ha riconosciuto la necessità di migliorare e ha annunciato un percorso di aggiornamenti per rendere il chatbot più attento e consapevole nei momenti critici.

Segui l'Intelligenza Artificiale su Telegram, ricevi news e offerte per primo

La dimensione etica di ChatGPT

Oltre ai promemoria per le pause, OpenAI sta lavorando a un cambiamento più profondo nella gestione delle conversazioni ad alto impatto emotivo. Quando l’utente chiederà, per esempio, se interrompere una relazione o affrontare un cambiamento importante nella propria vita, ChatGPT non offrirà più una risposta diretta. Al contrario, inviterà a riflettere, proponendo domande, alternative, pro e contro, con l’obiettivo di sostenere un processo decisionale autonomo. L’intelligenza artificiale diventa così uno strumento per ragionare, più che un oracolo a cui delegare le scelte.

È interessante vedere anche questo tipo di sviluppo dell’intelligenza artificiale. Al netto delle dichiarazioni positive di OpenAI nel presentare questa nuova funzionalità, è doveroso sottolineare come l’evoluzione dei sistemi di intelligenza artificiale stia anche tenendo in considerazione le questioni etiche. Da questo punto di vista OpenAI ha precisato come abbia collaborato con oltre 90 medici (tra cui psichiatri e pediatri) in oltre 30 Paesi per definire delle linee guida per la gestione di conversazioni complesse. L’azienda sta inoltre lavorando insieme a dei ricercatori nel campo dell’interazione uomo-macchina e con specialisti nello sviluppo giovanile e nella salute mentale, per testare e migliorare le risposte del sistema nei momenti più delicati.

Parallelamente, OpenAI continua a sviluppare nuove funzioni che renderanno l’AI capace di agire anche al di fuori dell’interfaccia classica. Con l’introduzione degli agenti, ChatGPT potrà organizzare appuntamenti, pianificare eventi o riassumere una casella di posta, lasciando all’utente il controllo completo ma liberandolo dalle attività ripetitive.