La nuova capacità di Alexa, l’assistente vocale di Amazon, sembra destinata ad aprire un dibattito di non poco conto. Anche perché la presentazione di questa nuova funzione è avvenuta in un modo molto particolare, all’interno di Re:Mars 2022, un evento dedicato al machine learning, all’Automazione, alla Robotica e allo Spazio: il filmato presentato per l’occasione infatti, vedeva Alexa leggere una favola ad un bambino imitando la voce della nonna scomparsa da poco tempo.
Se il video è stato abbastanza esplicativo, e anche toccante, a togliere ogni dubbio sulle intenzioni alla base del progetto è stato il vicepresidente senior di Alexa, Rohit Prasad, il quale ha affermato che se anche l’intelligenza artificiale non è in grado di cancellare il dolore derivante da una perdita di questo genere, è però in grado di prolungare il ricordo della persona scomparsa. È stato poi un portavoce di Amazon a ricordare che la nuova funzionalità è in grado di creare un’impronta vocale sintetica con appena un minuto di addestramento derivante dall’ascolto della voce da replicare.
Se passata l’emozione la prima reazione è stata di logico sconcerto, per un’operazione la quale è stata giudicata discutibile da molti, in un secondo momento la discussione si è spostata su un altro aspetto molto più pratico, ovvero sulle ricadute di questa nuova capacità nella vita di ogni giorno. Andiamo a vedere perché.
Indice:
Le ricadute nella vita di ogni giorno potrebbero essere devastanti
Ormai da tempo gli esperti di sicurezza mettono in guardia dalla possibilità che gli strumenti in grado di riprodurre le voci possano trasformarsi in un vero e proprio Cavallo di Troia a vantaggio delle bande criminali. L’utilizzazione della tecnologia di sintesi vocale tesa alla creazione di voci sintetiche, potrebbe in effetti spianare la strada a truffe ed episodi criminosi di varia natura.
L’esempio più noto in tal senso è quello avvenuto nel 2020 negli Emirati Arabi Uniti ove un dirigente di banca è stato ingannato dall’utilizzo di una traccia vocale che riproduceva alla perfezione la voce di un alto dirigente dell’azienda, con un bottino pari a 35 milioni di dollari.
Al momento, comunque, si tratta di un caso abbastanza isolato, per quanto abnorme, in quanto gli strumenti di cui dispongono per ora i malviventi sono ad un livello abbastanza basilare. Il quadro muterebbe però profondamente con una funzione come quella presentata da Amazon, mettendo nelle mani delle bande criminali una vera e propria bomba atomica, pronta a deflagrare con esiti che si preannunciano clamorosi.
Dopo il deepfake anche le voci contraffatte pongono problemi di non poco conto
La nuova funzionalità di Alexa arriva in un momento abbastanza particolare, in cui imperversano le polemiche sul deepfake, ovvero la tecnica che consente di sfruttare l’intelligenza artificiale al fine di sovrapporre in un video il volto di una persona a quello di un’altra. Una polemica la quale ha spinto di recente Google a bandirla dalla sua piattaforma Colaboratory per sottrarsi ad eventuali accuse su eventuali utilizzi distorti.
Anche in questo caso si tratta di un tema estremamente controverso, in quanto questa particolare tecnica è stata impiegata a più riprese per dare luogo a video tesi a colpire determinati soggetti, ad esempio imprenditori o politici, con conseguenze di largo raggio.
In effetti si tratta di un tema molto importante, ovvero l’utilizzo delle sempre più grandi potenzialità della tecnologia al fine di dare vita a falsificazioni a scopo propagandistico o apertamente criminoso. Nel primo caso, si entra nel terreno anch’esso minato delle fake news, altro tema sempre più d’attualità e all’esame del mondo politico, con il varo di linee guida cui è affidato il compito di tenere sotto controllo il fenomeno.
Anche in questo caso l’arrivo della nuova funzionalità di Alexa pone nuovi problemi, con il suo possibile utilizzo teso alla creazione di messaggi in grado di distruggere la reputazione di un politico, un artista o altre persone obbligate a mantenere una reputazione inattaccabile. Proprio per questo motivo c’è da attendersi una nuova marea di polemiche sulla mossa di Amazon.
Leggi anche: Google, Meta, e altri Big firmano le nuove regole UE contro le fake news, ma non tutti
🛍 Iscriviti gratis ai migliori gruppi Telegram dedicati alle Offerte Tech e alle Offerte Casa 🔥