Allucinazioni e condivisione di dati privati, che sta succedendo a Meta AI

L’intelligenza artificiale si evolve rapidamente e sta trasformando in modi diversi le vite di tutti, dalla produttività all’intrattenimento quotidiano. Tuttavia, come ben noto, questa tecnologia non è ancora esente da errori e quando ne commette uno le conseguenze per le privacy possono essere gravissime.

L’ultimo in ordine di tempo ha riguardato Meta AI che di recente ha condiviso, forse “per una distrazione”, un numero di telefono privato al posto di un contatto aziendale.

Che cosa sta succedendo con Meta AI

La questione sull’errore di Meta AI è semplice: qualche giorno fata un signore inglese, tale Barry Smethurst, ha utilizzato Meta AI su WhatsApp per ottenere il numero del servizio clienti di TransPennine Express, una compagnia ferroviaria britannica. Il chatbot, però, invece di inviare il contatto corretto gli ha fornito il numero di cellulare privato di James Gray, un agente immobiliare che, ovviamente, non ha nulla a che fare con la compagnia ferroviaria.

Ora, se questa “incomprensione” fosse capitata tra due esseri umani, ci potrebbero essere svariate ragioni per la condivisione di un contatto sbagliato. Ma quando capita all’intelligenza artificiale, che di base non dovrebbe essere in grado di condividere tali dati, la cosa cambia radicalmente.

Quando Smethurst si è accorto dell’errore ha chiesto spiegazioni a Meta AI che ha cercato di difendersi, affermando di aver inventato il numero. Solo dopo e dopo diverse richieste di spiegazioni ha ammesso che il numero era presumibilmente estratto da un “database”.

Dopo che l’utente ha chiesto spiegazioni più approfondite per capire in che modo l’AI fosse riuscita ad accedere a questo database, il chatbot di Meta è entrato in confusione, rilasciando dichiarazioni contraddittorie e affermando di non aver preso il numero dall’archivio ma di aver generato delle cifre casuali, simili a quelle di un cellulare britannico ma senza basarsi su dati reali. 

Tuttavia, di fronte all’insistenza di Smethurst per capire la provenienza del numero, l’IA ha fornito una spiegazione ancora più confusa e contraddittoria: ha dichiarato di non averlo preso da un archivio, ma di aver semplicemente generato una serie di cifre che assomigliavano a un numero di cellulare britannico, senza basarsi su dati reali o esistenti.

In tutto questo, ciò che il tool AI non ha mai fatto è ammettere di aver sbagliato e di aver violato la privacy del signor James Gray.

Meta AI, tra allucinazioni e violazioni della privacy

L’ultima risposta fornita da Meta AI dimostra chiaramente che ha avuto un’allucinazione che, con buone possibilità l’ha portata a generare un’informazione credibile ma comunque falsa. Questo errore, però, potrebbe aver portato alla luce qualcosa di inaspettato.

Se l’AI non ha informazioni attendibili per rispondere a una domanda, cerca di colmare questa mancanza inventando dei dati che, generalmente, portano ad errori e inesattezze. Fornire un numero di telefono “inventato” che poi si rivela essere vero può essere una casualità oppure può significare che Meta AI durante il suo addestramento ha avuto (forse accidentalmente) accesso a dati riservati che, al bisogno, sono stati utilizzati per sopperire a una mancanza di informazioni.

Questo solleva grandi dubbi sulla privacy e sulla condivisione non intenzionale di dati sensibili. Da parte sua Meta ha subito cercato di calmare le acque, sottolineando che “l’assistente è allenato su dati pubblicamente disponibili, non su conversazioni private di WhatsApp” aggiungendo anche che “il numero dell’agente immobiliare era reperibile online”.

Questa spiegazione, placa gli animi, ma comunque mette in guardia aziende e privati dalla condivisione di dati personali con l’intelligenza artificiale, sottolineando comunque che i fornitori di tali servizi, Meta in questo caso, devono alzare il livello di sicurezza dei propri strumenti, garantendo maggiore sicurezza per i dati personali dei consumatori, anche quando sono essi stessi (forse involontariamente) a condividerli con l’AI.