L'AI usata per creare video razzisti, il nuovo pericoloso trend su TikTok
Su TikTok sta spopolando un trend che sta abusando delle potenzialità dell’AI generativa utilizzata per creare video razzisti da condividere sulla piattaforma
L’inarrestabile crescita dei sistemi di intelligenza artificiale generativa sta portando nelle mani di aziende e persone qualunque una serie di strumenti dal potenziale enorme, pronti a soddisfare qualsiasi esigenza.
Dall’altra parte, però, diventano sempre più frequenti gli abusi di questa tecnologia, come l’ultimo trend virale su TikTok dove stanno spopolando dei brevi video creati con l’AI, densi di stereotipi razzisti con il proliferare di contenuti apertamente antisemiti o denigratori nei confronti degli immigrati.
Un fenomeno preoccupante che sta sollevando profonde preoccupazioni, vista anche la facilità con cui è possibile accedere a strumenti come questi che, senza alcun controllo, condividono a milioni di persone messaggi d’odio e intolleranza.
Che cosa sta succedendo su TikTok
L’allarme è stato lanciato dall’organizzazione no-profit chiamata Media Matters che, nei feed degli utenti statunitensi, ha identificato una serie di filmati generati utilizzando Veo 3, uno dei più potenti tool AI di Google, per la generazione di video.
I contenuti “tossici” analizzati da Media Matters hanno milioni e milioni di visualizzazioni e, pur rappresentando una palese violazione delle normative stabilite dalle piattaforme coinvolte, permangono comunque al loro interni, raggiungendo un numero sempre più elevato di persone.
Google, in occasione della presentazione del suo strumento Veo, aveva assicurato di disporre di sistemi avanzati per bloccare richieste e risultati dannosi. Così come anche le linee guida di TikTok specificano chiaramente che discorsi e i comportamenti che incitano all’odio non possono trovare posto sulla piattaforma. Nonostante questo, però, il problema rimane e i video in questione hanno raggiunto numeri stratosferici.
Di fronte al report condiviso da Media Matters, la reazione di TikTok è stata tempestiva e un portavoce dell’azienda ha confermato il rigoroso impegno nel rispetto delle regole contro tutto ciò che è incitamento all’odio.
Gli account in questione, dunque, sono stati prontamente bloccati e rimossi, rendendo i contenuti inaccessibili; ma sarà davvero sufficiente? La risposta è “no”, perché contenuti del genere ormai sono (quasi) dominanti in rete e possono essere facilmente reperiti anche su altre piattaforme come Instagram o YouTube, tanto per citare le più famose.
Quale è il problema di fondo con l’AI
Nonostante le dichiarazioni di intenti delle varie piattaforme online, questi contenuti discutibili continuano a invadere il web, tornando di volta in volta su nuovi social, rappresentando forse la sfida più grande per gli algoritmi di moderazione dei contenuti e i moderatori in carne e ossa.
Il problema di fondo, però, è la semplicità con cui è possibile generare e condividere video del genere, partendo da un semplice prompt testuale. Questo sottolinea anche una responsabilità delle piattaforme AI che dovrebbe in qualche modo cercare di arginare il fenomeno, per quanto complesso.
Come appena detto, al momento, questa rappresenta una delle sfide maggiori per i moderatori che senza l’aiuto delle persone si trovano impotenti di fronte a situazioni del genere. Dovrebbero essere, dunque, gli utenti a boicottare tali video, a ignorarli e a non condividerli in modo che l’attenzione al riguardo svanisca e finiscano rapidamente nel dimenticatoio.
