Come difendersi dai gemelli digitali cattivi

Secondo Trend Micro, il 2025 sarà l’anno dell’emergere dei “malicious digital twins“. Questi gemelli digitali cattivi, creati con l’ausilio dell’intelligenza artificiale, rappresentano una minaccia crescente per la sicurezza informatica di privati e aziende.

Possono essere utilizzati per frodi finanziarie, truffe di ingegneria sociale, campagne di disinformazione e falsificazione dell’identità, con la creazione di deepfake vocali e video ingannevoli. La loro capacità di replicare il comportamento, il linguaggio e la personalità di una vittima li rende strumenti potenti nelle mani dei cybercriminali.

Cosa sono i gemelli digitali cattivi

I “malicious digital twins” sono copie digitali fraudolente di individui, create utilizzando intelligenza artificiale avanzata e modelli linguistici di grandi dimensioni (LLM). Queste copie vengono addestrate con i dati personali rubati online, da post sui social media, messaggi di chat, email e altre informazioni facilmente reperibili da un hacker di medio livello.

I cybercriminali utilizzano questi dati per replicare il comportamento, il linguaggio e la personalità delle loro vittime, creando imitazioni convincenti. I gemelli digitali cattivi possono poi essere utilizzati per una vasta gamma di attacchi mirati, come frodi finanziarie e truffe di ingegneria sociale, ingannando persone, aziende e istituzioni per ottenere informazioni sensibili o trasferimenti di denaro.

L’uso combinato di deepfake audio e video rende queste truffe ancora più difficili da individuare. Questi attacchi possono essere altamente personalizzati, rendendo sempre più difficile per gli utenti distinguere tra contenuti autentici e contraffatti. L’obiettivo principale è quello di convincere le vittime a compiere azioni dannose o a fornire informazioni confidenziali.

Mamma, ho bisogno di soldi

Un esempio concreto di come un gemello digitale cattivo può essere impiegato è la creazione di un deepfake video in cui un figlio chiede urgentemente denaro alla madre. Immaginiamo uno scenario in cui un cybercriminale ha raccolto un vasto numero di video e post sui social media di un ragazzo.

Utilizzando questi materiali, un modello di intelligenza artificiale viene addestrato per replicare fedelmente le sue espressioni facciali, il tono di voce e il modo di parlare. Il risultato è un video deepfake estremamente realistico in cui il ragazzo, rivolgendosi direttamente alla madre, afferma di trovarsi in una situazione di emergenza e di aver bisogno di denaro, chiedendo che una somma venga trasferita immediatamente su un conto specifico.

Come impedire la creazione di un gemello digitale

Impedire la creazione di un gemello digitale cattivo è una sfida complessa, poiché i cybercriminali sfruttano informazioni che spesso sono già disponibili online. Ogni interazione online, ogni post sui social media, ogni commento e ogni dato personale condiviso può essere potenzialmente utilizzato per addestrare un’intelligenza artificiale a creare una replica della nostra identità digitale.

Pertanto, è fondamentale adottare un approccio di sicurezza proattivo, limitando la quantità di informazioni personali condivise pubblicamente e prestando molta attenzione alle impostazioni sulla privacy sui social media e altre piattaforme online.

Tuttavia, in alcuni casi, la creazione di un gemello digitale è quasi impossibile da bloccare. Ad esempio, se un hacker riesce a compromettere il dispositivo di un nostro contatto, potrebbe accedere alle chat e alle email scambiate con noi. Queste informazioni possono essere utilizzate per addestrare un’intelligenza artificiale a imitarci, anche senza la nostra autorizzazione o consapevolezza.