Facebook rimuove i profili fake con foto generate dall'AI
Facebook ha chiesto l'aiuto di una società di social media analytics per scovare i profili falsi e ne ha trovati alcuni con foto generate al computer
Pugno duro di Facebook contro i profili fake. Il social network di Menlo Park ha deciso di dare un colpo di spugna alla presenza di profili fasulli con foto di volti creati attraverso l’Intelligenza Artificiale che, secondo la società di social media analytics Graphika, sarebbero stati utilizzati principalmente per diffondere sulla piattaforma messaggi di propaganda governativa.
L’annuncio da parte del social network è arrivato martedì, indicando come l’operazione abbia previsto la rimozione di 155 account, 11 pagine, nove gruppi su Facebook e sei account sulla piattaforma Instagram per “comportamento coordinato non autentico per conto di un’entità straniera o governativa”. I contenuti promossi dagli account erano focalizzati in particolare sugli eventi in atto nel Sudest Asiatico e negli Stati Uniti. Tra i post più comuni nel primo gruppo di profili, il più nutrito, quelli relativi agli interessi di Pechino nel Mar Cinese Meridionale e Hong Kong, mentre nel secondo, più piccolo rispetto al precedente, sono state riscontrate pubblicazioni sui futuri candidati alle elezioni presidenziali americane Pete Battigie, Joe Biden e Donal Trump, con toni sia a favore che contrari.
Profili fake su Facebook: i risultati delle indagini
Per comprendere meglio e recuperare informazioni di fondamentale importanza sulla questione, Facebook ha interpellato Graphika per effettuare un’analisi approfondita dei profili fake prima di chiuderli e spedirli nel dimenticatoio.
Dalle indagini, la società collegata al Dipartimento della Difesa degli Stati Uniti ha estratto dei dati in alcuni casi particolarmente allarmanti, soprattutto nel campo del furto di identità.
Profili fake: ecco da dove provengono le foto degli utenti
In alcuni casi, Graphika ha scoperto che le immagini di profilo erano del tutto autentiche, ma rubate da immagini diffuse in rete da persone reali e facilmente individuabili attraverso un processo di ricerca inversa. In altri casi, invece, lo studio ha rivelato come a dar vita ai personaggi fittizi sul social network fossero delle Reti generative avversarie, in inglese Generative Adversial Network (GAN), che sfruttano l’apprendimento delle reti neurali per creare volti umani estremamente realistici e quindi credibili all’occhio umano.
A far sospettare la società sull’impiego di GAN sono state 12 foto profilo con irregolarità nell’aspetto. Infatti, le immagini riportavano sfondi distorti o elementi non del tutto simmetrici nonostante lo siano normalmente nella realtà, come orecchie e occhiali. Per stabilire con precisione la natura delle foto, la società ha provveduto a effettuare una sovrimpressione delle immagini dopo averle rese opache, mettendo a nudo il mancato allineamento degli elementi. In pochi passaggi è stato dunque possibile mettere a nudo la fallacia dell’AI e le successive manipolazioni messe in atto per confondere l’osservatore.
Profili fake e Intelligenza Artificiale: nuovo trend?
Nonostante la capacità di osservazione renda possibile l’individuazione di foto profilo false e relativi profili fake, non è la prima volta che viene riportato un comportamento simile da parte di gruppi dagli intenti poco cristallini. Sempre nel mese di settembre 2020, un altro network collegato all’azienda russa Internet Research Agency (IRA) aveva provato lo stesso stratagemma per promuovere il sito, anch’esso fasullo, PeaceData.
