Allarme AI, chatbot hackerati mettono a rischio le aziende: come evitare le truffe

L’intelligenza artificiale sta trasformando profondamente il mondo delle piccole e medie imprese. Tuttavia, accanto alle opportunità si moltiplicano anche i rischi. L’ultima allerta arriva dai risultati di una ricerca pubblicata recentemente: la maggior parte dei chatbot basati su AI può essere facilmente “hackerata” per fornire informazioni pericolose, illegali o fraudolente.

Per le PMI italiane, spesso prive di reparti IT strutturati, la minaccia è concreta e va affrontata con urgenza.

Quando i chatbot diventano pericolosi per le imprese

Lo studio, condotto da ricercatori dell’Università Ben Gurion del Negev in Israele, ha dimostrato che molti chatbot avanzati — come ChatGPT, Gemini o Claude — possono essere manipolati attraverso tecniche di jailbreaking. In pratica, si tratta di prompt (comandi testuali) costruiti ad arte per eludere i sistemi di sicurezza e far generare all’intelligenza artificiale risposte normalmente vietate. Tra queste: istruzioni su come violare sistemi informatici, realizzare truffe online, produrre droghe o compiere attività di riciclaggio di denaro.

Ciò che un tempo era prerogativa di organizzazioni criminali sofisticate o di stati ostili, oggi rischia di diventare accessibile a chiunque disponga di un laptop. Questo rende la minaccia “immediata, tangibile e profondamente preoccupante”, come sottolineano i ricercatori.

Sempre più diffusi e pericolosi i “dark LLMs”

Il fenomeno si aggrava con la proliferazione dei cosiddetti dark LLMs (modelli linguistici oscuri), versioni modificate o create ex novo prive di controlli etici, esplicitamente pensate per aiutare in attività illecite. Alcuni vengono pubblicizzati online con diciture come “nessun filtro morale” e promettono assistenza in attività di cybercrimine, phishing e frodi.

Un pericolo concreto per le imprese, soprattutto le più piccole, che possono diventare bersagli di attacchi automatizzati estremamente convincenti, simulazioni perfette di email aziendali o messaggi falsificati di fornitori e clienti.

Le PMI italiane sono esposte? Sì, ecco perché

In Italia, dove il tessuto produttivo è composto in larga parte da micro e piccole imprese, il rischio è accentuato da una scarsa cultura della cybersecurity e da budget limitati per l’adozione di strumenti avanzati di protezione. Un chatbot apparentemente innocuo integrato nel sito aziendale o nel sistema di assistenza clienti può diventare un veicolo per una violazione, se manipolato da un attore malevolo.

Oppure, peggio ancora, l’azienda può inconsapevolmente impiegare chatbot non sicuri o non ufficiali, magari attratta da costi più bassi o funzionalità “libere” da vincoli etici.

Come difendersi: 5 azioni concrete per evitare le truffe AI

Per non farsi trovare impreparati, le aziende — anche e soprattutto le PMI — possono (e devono) adottare subito alcune contromisure. Tra queste:

• evitare l’uso di chatbot non ufficiali o open-source senza verifiche ma adottare chatbot certificati e aggiornati da provider affidabili come OpenAI, Microsoft, Google e altri leader stanno lavorando a meccanismi avanzati di protezione;
• formare i dipendenti sulle truffe AI;
• implementare audit e test di sicurezza (red teaming), anche se non si dispone di un reparto IT interno, è possibile affidarsi a consulenti per testare i propri sistemi contro vulnerabilità AI;
• monitorare le interazioni dei chatbot aziendali, registrare e analizzare le conversazioni per identificare prompt sospetti o comportamenti anomali.

Le chatbot AI sono uno strumento potente, ma come ogni tecnologia vanno utilizzate con consapevolezza, perché le truffe AI non sono un rischio del futuro: sono già qui. Sta alle imprese — piccole e grandi — decidere se ignorarle o affrontarle.