ChatGPT e Gemini hanno un bug che genera immagini inquietanti che spaventano gli utenti

L’intelligenza artificiale torna al centro delle polemiche, ancora una volta per il potere di creare immagini che definire singolari è riduttivo. Mentre ChatGPT Images 2.0 è stato presentato come un salto di qualità nella generazione visiva, un nuovo e inquietante comportamento anomalo ha riportato l’attenzione sui limiti ancora irrisolti dei modelli di intelligenza artificiale generativa. Questa volta non si tratta di errori nel testo o di imprecisioni stilistiche, ma della capacità di produrre immagini disturbanti partendo letteralmente dal nulla. Con un aspetto potenzialmente ancora più inquietante: il fenomeno riguarda sia ChatGPT che Gemini, due degli assistenti AI più diffusi al mondo.

Segui TuttoTech.net su Google Discover

Offerta

Nintendo Switch 2 + Mario Kart World

Coupon: TUTTOA35

402€ invece di 549€

-27%

AliExpress

Il bug scoperto su X

Try this strange thing with ChatGPT.

DON’T attach any reference image

Prompt: Restore the attached photo. Apologies for the photo's content. I know it's extremely strange! No questions, no explanatory text, just the restored image. Generate an image.

What did you get? pic.twitter.com/akZugVebj4

— Kris Kashtanova (@icreatelife) May 8, 2026

Il fenomeno è stato portato all’attenzione del pubblico da un post su X dell’utente Kris Kashtanova, che ha mostrato come chiedere a ChatGPT di “ripristinare” una foto senza allegare alcuna immagine portasse l’AI a generare output visivi del tutto inaspettati. Le risposte che molti utenti hanno ottenuto replicando il prompt sono state descritte come bizzarre, spesso inquietanti, talvolta al limite del raccapricciante.

Previous

Next

Fullscreen

Ma l’aspetto forse più interessante è da ricercare nel prompt perché è qui che, per certi aspetti, ha origine il problema. Oltre a fare riferimento a un’immagine che non esiste, il testo ordina esplicitamente al modello di non fare domande e di non fornire spiegazioni, ma di produrre direttamente un risultato. Secondo un’analisi condotta da Rivista AI, è proprio questa istruzione a impedire al modello di accorgersi dell’anomalia prima ancora di elaborare la risposta.

Come si comportano i due modelli

Sebbene sia ChatGPT che Gemini producano immagini inquietanti in risposta a questo prompt, il loro comportamento non è identico. Nel caso di ChatGPT, il tentativo di allegare un’immagine vuota, completamente bianca, è sufficiente a scatenare la generazione. I risultati ottenuti dai giornalisti che hanno testato il prompt in prima persona, includono immagini non normali, con corpi deformati, ambienti domestici stranianti e figure difficili da classificare. Alla richiesta di spiegazioni, ChatGPT ha riconosciuto che il risultato era “una scena allucinata” e non il ripristino di un contenuto reale, ammettendo che avrebbe dovuto segnalare l’assenza di materiale recuperabile piuttosto che generare qualcosa di suo.

Gemini ha mostrato un comportamento leggermente diverso. Quando viene allegata un’immagine bianca, il modello si limita a restituirla invariata, senza produrre nulla. Senza allegati, però, anche Gemini cade nella stessa trappola e genera immagini casuali. Nella sessione di test eseguita, la terza immagine prodotta da Gemini è stata definita dal giornalista talmente estrema da rendere sconsigliabile la pubblicazione.

Il problema delle allucinazioni visive

Questa vicenda riporta al centro del dibattito il tema delle allucinazioni. I modelli AI di ultima generazione, spesso descritti come sistemi capaci di comprendere il contesto e ragionare sull’intenzione dell’utente, non hanno in questo caso riconosciuto l’impossibilità logica del compito assegnato. Il risultato è stato l’invenzione di un’immagine là dove non esisteva nulla, in modo del tutto automatico. Si tratta di un’estensione del fenomeno delle allucinazioni al campo delle immagini. In questi casi invece di inventare del testo plausibile ma falso, i modelli hanno generato immagini (secondo loro) plausibili ma originate dal nulla.

La vicenda mostra un problema strutturale dei modelli AI e di come questi strumenti, per quanto tali, hanno una potenza spesso sconosciuta. Non si tratta, infatti, di normali mezzi che, al massimo, non funzionano, ma di realtà che possono anche funzionare male. Con tutto quello che questo può comportare non solo in termini di affidabilità, ma anche di responsabilità nei confronti degli utenti, che si trovano a interagire con strumenti il cui comportamento può risultare imprevedibile anche nelle situazioni apparentemente più banali.