instagram app smartphone Fonte foto: AngieYeoh / Shutterstock.com

Instagram usa l'intelligenza artificiale contro i bulli

Due nuove funzionalità basate sull'intelligenza artificiale vogliono combattere il cyberbullismo su Instagram. Agiscono sui commenti e sulle interazioni

9 Luglio 2019 - Il cyberbullismo è un fenomeno in continua ascesa non solo nel nostro paese. In molti cercano di ricorrere ai ripari per affrontare e combattere questo comportamento sempre più diffuso tra gli adolescenti.

Terreno privilegiato dello scontro tra i bulli digitali e le loro vittime sono i social network dove tutto sembra essere permesso e dove, almeno in apparenza, non esistono regole. Per tentare di arginare il fenomeno del cyberbullismo, molti social network stanno realizzando funzionalità e strumenti ad hoc in grado di riconoscere in maniera automatizzata comportamenti di questo genere. Su tutti Instagram, che utilizza da diverso tempo l’Intelligenza Artificiale per capire meglio le dinamiche che si instaurano tra gli utenti e le loro reazioni ai commenti, alle foto e ai video più sensibili.

Già lo scorso anno, il social nato nel 2010 dall’idea di K. Systrom e M. Krieger, aveva lanciato una serie di filtri con lo scopo di individuare offese dirette all’aspetto o alla personalità degli utenti, nonché minacce di ogni tipo. Evidentemente tutto questo non è bastato e per questo motivo i responsabili del social network più diffuso tra i giovani sono corsi ai ripari confidando ancora nell’Intelligenza Artificiale.

Instagram vs cyberbullismo

Sono due le nuove feature basate sull’IA appositamente studiate per combattere le aggressioni online e sperimentate in questi giorni con esiti positivi da Instagram. La prima si concentra sui commenti. Grazie all’Intelligenza Artificiale che monitora i commenti per Instagram sarà possibile individuare le frasi offensive e bloccare il contenuto prima della pubblicazione. Attraverso una notifica verrà chiesto di “riflettere” su quello che si sta pubblicando ed eventualmente di modificarlo rendendolo in un certo senso più amichevole o meno violento. Stando a quanto rivelato dal social network, i primi test di questa sperimentazione hanno fornito risultati incoraggianti.

Instagram: Restrict

Ancora in fase di test, Instagram: Restrict permetterà di bloccare il profilo del cyberbullo senza che questo se ne accorga. Una funzione importante perché spesso bloccare o cancellare qualcuno da Instagram è un’azione che potrebbe dare adito ad una serie di azioni spiacevoli nella vita reale e peggiorare, in un certo senso, la situazione del bullizzato.

Attraverso Restrict sarà possibile gestire i commenti di uno o più contatti limitandone la visualizzazione sul proprio profilo. Il post offensivo sarà visualizzato solo dal bullo o da altri utenti selezionati manualmente da una lista vanificando di fatto l’azione dell’hater il quale, però, allo stesso tempo, è convinto di aver pubblicato il commento. In più il bullo non sarà in grado di vedere quando l’utente bullizzato è attivo sulla piattaforma o ha letto i Direct Message. La funzione Restrict sarà disponibile per tutti entro la fine dell’anno.