Muse di Meta avrebbe letto i messaggi privati anche senza autorizzazione

Meta ha presentato Muse come un agente di intelligenza artificiale personale capace di interagire con le informazioni dell’utente per svolgere attività come ricerche, organizzazione e altre operazioni attraverso un computer virtuale dedicato. Un test condotto da Jason Aten, giornalista di Inc., ha però sollevato un problema tutt’altro che secondario: Muse avrebbe avuto accesso ai messaggi presenti nell’app Messaggi di Apple nonostante l’utente non gli avesse concesso esplicitamente questa autorizzazione.

La questione è particolarmente delicata perché gli agenti IA, a differenza dei normali chatbot, sono progettati per interagire direttamente con applicazioni, file e altre informazioni. Proprio per questo motivo, il confine tra ciò che l’utente autorizza e ciò che l’agente può effettivamente consultare diventa fondamentale.

Segui TuttoTech.net su Google Discover

Pubblicità-50%

Amazon

Amazon Echo Dot Max con Alexa+

64,99€129,99€

Vai all'offerta

Il test di Muse e le 187.462 righe del database di Messaggi

Aten ha installato Muse sul proprio iPhone e su un Mac mini utilizzato abitualmente per testare nuovi strumenti basati sull’intelligenza artificiale. Dopo averlo utilizzato per alcune operazioni, l’agente ha iniziato a suggerire attività apparentemente basate sulle conversazioni dell’utente, tra cui idee per articoli e informazioni relative al suo lavoro.

Il dettaglio più significativo è arrivato quando Aten ha chiesto direttamente a Muse come avesse ottenuto quelle informazioni, l’agente ha risposto di non aver accesso alla cronologia dei messaggi e ha spiegato che l’applicazione sul Mac avrebbe semplicemente trasmesso il testo delle notifiche in arrivo, cioè quello normalmente visualizzato nei banner di macOS. Muse ha inoltre affermato di non poter aprire l’app Messaggi, scorrere le conversazioni o consultare la cronologia.

Le verifiche effettuate successivamente da Aten hanno però mostrato qualcosa di diverso. Secondo il giornalista, Muse aveva sincronizzato i dati dal database locale dell’app Messaggi, arrivando alla riga 187.462 del database presente sul suo dispositivo. Non è possibile stabilire da questo dato il numero esatto di messaggi coinvolti, ma si tratta comunque di una quantità di dati decisamente superiore a quella che sarebbe necessaria per leggere semplicemente le notifiche ricevute.

Il problema è ancora più particolare considerando che, secondo Aten, l‘accesso completo al disco su Mac risultava disattivato e non compariva tra le autorizzazioni concesse nelle impostazioni di Sicurezza e privacy; il giornalista sostiene inoltre di aver scelto esplicitamente di non concedere a Muse l’accesso ai propri messaggi, al calendario e ad altre informazioni personali.

Il nodo delle autorizzazioni e la risposta di Meta

La vicenda ha successivamente coinvolto direttamente Meta. Aten ha contattato l’azienda per chiedere spiegazioni e David Singleton, di Meta, ha risposto pubblicamente a un suo post con una spiegazione molto tecnica. Secondo Aten, tuttavia, la risposta sembrava sottolineare che fosse stato proprio lui ad aver abilitato le impostazioni necessarie affinché Muse potesse accedere a quei dati.

Aten ha contestato questa ricostruzione mostrando nuovamente le impostazioni dell’app Muse per Mac: il pannello indicava che l’accesso completo al disco non era abilitato e che tale autorizzazione non risultava nemmeno nelle impostazioni di Sicurezza e privacy del sistema; il giornalista ha quindi sostenuto che, anche ammettendo la possibilità di un clic involontario o di un’impostazione attivata senza rendersene conto, il comportamento del sistema rimarrebbe problematico se l’utente non viene messo nelle condizioni di capire quali dati verranno utilizzati.

È un aspetto particolarmente importante per gli agenti IA, perché la loro utilità dipende proprio dalla possibilità di accedere a una parte dell’ambiente digitale dell’utente. Meta sostiene che Muse sia stato progettato consentendo alle persone di decidere quali applicazioni collegare e quale livello di accesso concedere, secondo Aten però, un agente non dovrebbe utilizzare informazioni ulteriori rispetto a quelle che l’utente pensa di aver condiviso.

Il caso non dimostra necessariamente che Muse possa accedere indistintamente ai messaggi di qualsiasi utente o che il comportamento osservato sia riproducibile in ogni configurazione. Si tratta del risultato di un test condotto su uno specifico Mac e descritto da Aten, mentre la risposta di Meta attribuita a Singleton offre una spiegazione diversa rispetto alla ricostruzione del giornalista.

Resta però un problema concreto di prevedibilità: se un agente IA deve leggere i messaggi privati per svolgere una determinata attività, l’utente dovrebbe poter capire chiaramente quando e perché questo avviene. Come osserva Aten, non dovrebbe essere necessario scoprire successivamente che un agente ha consultato informazioni che non si pensava di avergli fornito.

Il caso Muse mostra quindi quanto possa diventare delicato il rapporto tra potenzialità degli agenti IA e controllo delle informazioni personali. Più questi strumenti diventano capaci di interagire con ciò che abbiamo sui nostri dispositivi, più diventa importante sapere non soltanto che cosa possono fare, ma anche quali dati stanno effettivamente utilizzando per farlo.