Eufy al centro di un caso controverso sull’addestramento di AI che rileva i furti di pacchi

Che l’intelligenza artificiale abbia bisogno di enormi quantità di dati per funzionare bene è ormai un fatto assodato.

Ma cosa succede quando i dati reali non bastano? È la domanda che ha acceso un acceso dibattito attorno a Eufy, il celebre marchio di videocamere di sorveglianza di Anker, dopo che è emerso un programma insolito per addestrare i suoi sistemi di riconoscimento.

L’azienda avrebbe pagato gli utenti per fingere di essere ladri di pacchi davanti alla telecamera. Una scelta che sta facendo discutere tra ironia e preoccupazioni etiche.

Offerta

Playstation®5 Edizione Digitale – 825GB

349€ invece di 499€

-30%

Amazon 🛒

Quando i dati per addestrare l’intelligenza artificiale non bastano

Il caso nasce alla fine del 2024, quando Eufy ha annunciato di voler potenziare le proprie funzioni di AI per la sicurezza domestica.

L’obiettivo era migliorare la capacità delle telecamere di riconoscere comportamenti sospetti, come qualcuno che cerca di rubare pacchi lasciati davanti al portone di casa.

Per riuscirci, servivano migliaia di clip reali di quei comportamenti. Ma qui arrivava il problema: non tutti gli utenti vivono in quartieri ad alta criminalità, e di conseguenza i video autentici erano pochi.

Eufy ha quindi deciso di lanciare un programma di crowdsourcing: pagare 2 dollari per ogni clip approvata, fino a un massimo di 10 video per scenario e 40 dollari a telecamera.

L’azienda invitava esplicitamente gli utenti a inscenare rapine simulate davanti ai propri dispositivi, così da generare materiale “utile” all’addestramento.

L’AI non distingue l’intento

Dal punto di vista tecnico, la logica dell’iniziativa è abbastanza lineare. Come affermato da alcuni analisti, l’AI non comprende davvero il concetto di furto, ma si limita a riconoscere pattern visivi e gestuali. Per il sistema, un uomo che raccoglie un pacco da terra e si allontana può sembrare identico a un vero ladro, indipendentemente dal fatto che l’azione sia reale o messa in scena.

Eufy arrivava persino a suggerire come ottimizzare le performance degli aspiranti attori: posizionarsi in modo che l’“atto criminale” fosse ripreso da due telecamere contemporaneamente, così da generare più dati in un colpo solo.

Tra addestramento creativo e timori di falsi positivi

L’idea, per quanto creativa, solleva diverse perplessità. Da un lato, è chiaro che raccogliere video di veri furti non sia semplice né sicuro, e che affidarsi solo a materiale reale possa rallentare lo sviluppo dell’AI.

Dall’altro, però, c’è chi teme che l’uso massiccio di clip simulate possa portare a un’AI meno affidabile, più incline a generare falsi positivi: scambiare un vicino che prende un pacco per un ladro, o un familiare che apre l’auto per un malintenzionato.

Alcuni esperti sottolineano anche un aspetto etico: chiedere agli utenti di interpretare atti criminali, pur in maniera innocua, potrebbe alimentare confusione o addirittura generare potenziali rischi se i video simulati finissero nelle mani sbagliate.

Reazioni degli utenti

La notizia, riportata inizialmente da TechCrunch e poi amplificata dai social, ha fatto rapidamente il giro del web.

Alcuni hanno accolto l’idea con leggerezza, definendola una sorta di “community theatre” per la sicurezza digitale. Altri, invece, hanno espresso preoccupazione: “Davvero vogliamo un mondo in cui l’AI che sorveglia le nostre case è stata addestrata su video finti?” Ha scritto un utente su X.

Eufy risponde alle critiche

Di fronte alla viralità della vicenda, Eufy ha difeso la propria scelta sottolineando che il programma mirava unicamente a migliorare l’affidabilità delle funzioni AI.

Inoltre, l’azienda ha precisato che tutte le clip raccolte venivano trattate in modo anonimo e usate esclusivamente per addestrare i sistemi interni, non per altri scopi commerciali.

Tuttavia, la polemica resta in quanto molti si chiedono se un addestramento basato in larga parte su simulazioni possa davvero restituire un riconoscimento accurato in scenari reali.

La questione Eufy apre uno scenario interessante sul futuro delle videocamere smart e dell’AI applicata alla sicurezza domestica.

Da un lato, le aziende devono trovare soluzioni pratiche per raccogliere abbastanza dati da rendere i sistemi affidabili; dall’altro, devono bilanciare innovazione e trasparenza per non minare la fiducia degli utenti.

Il rischio è che, in un settore delicato come quello della sorveglianza, iniziative troppo “creative” possano generare diffidenza. Allo stesso tempo, però, il dibattito spinge a riflettere su un punto chiave: l’AI che protegge le nostre case è tanto più efficace quanto più è stata allenata con dati realistici e diversificati.

Se l’iniziativa avrà migliorato davvero la capacità delle telecamere di riconoscere comportamenti sospetti, lo scopriremo nei prossimi mesi, osservando i feedback degli utenti.