Cos'è Lensa AI e perché è pericolosa
Lensa AI è l'app del momento, con milioni di download in pochissimi giorni, ma è anche rischiosa per i dati degli utenti e, soprattutto, per donne e bambini
Alla fine del 2022 il mondo dei social media è stato letteralmente scosso dal successo di Lensa AI, schizzata ai primi posti degli app store nel giro di poche settimane. A rendere l’app di tendenza, in circolazione già dal 2018, è stato il lancio della funzione “Magic Avatar”, in grado di trasformare gli scatti degli utenti in illustrazioni colorate e fantasiose grazie al supporto dell’intelligenza artificiale.
Ma nonostante Lensa AI abbia incontrato il consenso del pubblico, è anche stata molto criticata per questioni di privacy e sicurezza dei dati personali degli utenti. Oltre che per problemi di vario genere legati alla rappresentazione delle donne e dei bambini. Vediamo allora cos’è e come funziona l’app, e perché rappresenta un rischio per la sicurezza informatica del suo pubblico.
Cos’è e come funziona Lensa AI?
Sviluppata da Prisma Labs – la stessa software house che nel 2016 ha lanciato l’app Prisma per trasformare le foto in dipinti – Lensa AI è un’app disponibile per iOS e Android, che permette agli utenti di modificare i propri selfie applicando filtri di bellezza o rimuovendo alcuni dettagli come le imperfezioni della pelle o le borse sotto gli occhi.
A renderla un’app di tendenza, come anticipato, è stata l’introduzione della funzione “Magic Avatar”, che permette di creare avatar digitali a partire dalle foto degli utenti, utilizzando il supporto dell’intelligenza artificiale di Stable Diffusion. Una volta effettuato il download, infatti, l’applicazione vi chiederà di caricare 10/20 delle vostre foto personali, in primo piano o di profilo, che poi saranno modificate all’occorrenza dall’AI.
Una funzione interessante, ma tutt’altro che gratuita. Aprendo l’app, un pop-up invita subito gli utenti ad attivare una prova gratuita di 7 giorni, al termine della quale sarà necessario sottoscrivere un abbonamento al costo di 29.99 € all’anno. Nonostante alcune delle funzioni possano essere utilizzate in forma gratuita, l’opzione “Magic Avatar” garantisce risultati ottimali soprattutto agli utenti abbonati.
Un’app pericolosa per la privacy
Il problema delle app di questo tipo è sempre lo stesso: milioni di utenti caricano diverse foto del proprio volto e, puntualmente, non è ben chiaro che fine faranno. Un dettaglio non da poco, considerando che il viso è non solo un’informazione sensibile, ma anche un parametro biometrico che, se finisce nelle mani sbagliate, può essere utilizzato per sbloccare un dispositivo elettronico o facilitare l’accesso a conti bancari. Inoltre, considerato l’uso diffuso di generare immagini deepfake con il supporto dell’AI, è chiaro che concedere la propria immagine a un’app può rivelarsi davvero pericoloso per la propria privacy e sicurezza.
Per rassicurare gli utenti, Prisma Labs dichiara chiaramente che le foto caricate dagli utenti vengono “cancellate entro 24 ore“, o al termine della loro elaborazione da parte dell’app. Anche se questo sistema non riguarda le immagini create/modificate con l’aiuto dell’intelligenza artificiale, che rimangono a completa disposizione di Lensa AI.
I termini d’uso dell’applicazione, infatti, riportano in maniera inequivocabile che l’utente concede “una licenza perpetua, revocabile, non esclusiva, esente da royalty, a livello mondiale, interamente pagata, trasferibile, sub-licenziabile per usare, riprodurre, modificare, adattare, tradurre, trasferire, creare opere derivate dai tuoi contenuti, senza ulteriore compenso”.
Non c’è da stupirsi, quindi, che gli esperti di sicurezza siano preoccupati per la privacy degli utenti che scaricano e utilizzano l’app. Come tutti gli algoritmi di deep learning, anche Stable Diffusion divora enormi quantità di dati in fase di “addestramento” e in molti temono che anche le nuove immagini caricate dagli utenti vengano utilizzate per migliorare l’algoritmo e, di conseguenza, anche l’app.
Lensa, bambini e foto hot
Un problema certamente confermato (e non smentito da Prisma Labs), invece, è che Lensa AI “mastica” senza problemi anche foto di minorenni: non li riconosce dagli adulti o, forse, non si pone proprio alcuna domanda sull’età del soggetto fotografato.
Il problema nel problema, poi, è che Lensa AI può anche generare foto di nudo integrale partendo anche da un solo volto. Quindi, non solo in teoria ma anche in pratica, con l’immagine del volto di un minorenne è possibile generare una foto fake pedopornografica. In generale, poi, i risultati dei filtri di bellezza applicati alle foto di donne risultano decisamente ipersessualizzati.
Tutto questo, messo insieme, può aiutare i malintenzionati a creare immagini utili a diffamare o ricattare donne e bambini.
