E se l'intelligenza artificiale diventasse uno strumento di censura?
Secondo un documento trapelato in rete la Cina utilizza l’intelligenza artificiale come mezzo di censura per oscurare i contenuti ritenuti sensibili per il governo
Un documento trapelato in rete e ricondiviso poi da diversi siti, tra cui TechCrunch, ha rivelato lo sviluppo di un avanzato sistema basato sull’intelligenza artificiale destinato a rafforzare la censura online da parte del governo cinese. Questo strumento, utilizzando un modello linguistico di grandi dimensioni (LLM), sarebbe in grado di identificare e segnalare automaticamente contenuti considerati sensibili che, di conseguenza, non arriveranno mai all’attenzione dei cittadini.
AI e censura, cosa sta succedendo?
Secondo quanto emerso, questo strumento è in grado di monitorare tutte le attività online dei cittadini, potenziando i meccanismi di censura già esistenti. In questo caso, però, i controlli potrebbero estendersi anche verso i modelli di intelligenza artificiale sviluppati in Cina, garantendo un filtraggio più efficace dei contenuti non conformi alla linea politica del governo.
Tutto è cominciato con un database con più di 133 mila esempi di contenuti censurabili, trovato dal ricercatore di sicurezza NetAskari all’interno di un server non protetto di Baidu. I dati sono aggiornati fino a dicembre 2024 e ciò suggerisce che il sistema è stato addestrato di recente. Tra i dati ritenuti “a rischio” ci sono le denunce di corruzione tra i membri del partito, le critiche alla povertà nelle aree rurali della Cina, le proteste contro l’inquinamento, le controversie lavorative e finanziarie del paese, le questioni legate a Taiwan e alla politica militare del governo e tutto ciò che viene considerato satira politica.
Xiao Qiang, ricercatore dell’Università di Berkeley, ha studiato le potenzialità di questa tecnologia e, dalla sua analisi, è emerso che è in grado di intensificare notevolmente il controllo sulle informazioni rispetto ai metodi tradizionali di censura basati su parole chiave e revisione manuale, andando ad aumentare significativamente l’efficienza e la precisione dei sistemi di repressione del dissenso.
Da una prima analisi, comunque, questo tool va ad insinuarsi nel “public opinion work “, un’attività messa in piedi dalla Cyberspace Administration of China (CAC) con l’obiettivo di controllare le narrazioni online (considerate cruciali per “gestire” l’opinione pubblica) e rafforzare la propaganda governativa, consolidando il dominio delle autorità sull’informazione attraverso strumenti sempre più sofisticati.
L’intelligenza artificiale come strumento di repressione
Questa nuova tecnologia espande ulteriormente gli scenari di utilizzo dell’intelligenza artificiale che, forse per la prima volta, viene utilizzata apertamente per questi scopi. Già a febbraio di quest’anno, OpenAI aveva rivelato l’esistenza di alcune entità (probabilmente cinesi) che sfruttano gli LLM per monitorare e segnalare post antigovernativi e screditare i dissidenti politici; l’uscita di quest’ultimo report non fa che consolidare questa teoria.
I vecchi sistemi di censura si appoggiavano ad algoritmici relativamente semplici, in grado di bloccare automaticamente i termini sensibili. Tuttavia, con l’utilizzo di modelli linguistici avanzati, la capacità di individuare e sopprimere il dissenso potrebbe raggiungere livelli molto più sofisticati, riuscendo a rintracciare, ad esempio, anche le critiche più velate nascoste dietro satira e comicità.
Per gli esperti, l’utilizzo dell’AI nei meccanismi di censura rappresenta una minaccia crescente per la libertà di informazione in Cina, per il momento, ma potrebbe rappresentare un rischio tangibile anche in altri paesi. Questa situazione, dunque, pone l’accento sull’urgenza di regolamentare l’uso dell’intelligenza artificiale a livello globale, in modo da evitare che diventi uno strumento di oppressione, andando contro i principi alla base della sua creazione che immaginano una tecnologia etica e aperta a tutti.
