Facebook e Instagram: nuove regole contro suicidi e autolesionismo

Facebook e Instagram compiono un ulteriore passo avanti in termini di supporto al complesso problema della salute mentale. Andando a consolidare gli sforzi praticati già negli anni scorsi, i due social network hanno deciso di estendere all’Unione Europea il regolamento contro i contenuti che istigano al suicidio e all’autolesionismo.

Già dal 2016 Facebook aveva iniziato la sua campagna in aiuto di quanti fossero a rischio suicidio e autolesionismo, introducendo un servizio di segnalazione anonima per individuare in maniera tempestiva tutti quegli utenti particolarmente esposti. Nel corso del tempo i provvedimenti si sono ampliati, estendendosi anche a Instagram finita, nel frattempo, sotto l’egida del social network. Se però tale sistema è già in vigore in molti altri stati, in Europa ha trovato maggiori difficoltà, in particolare a causa del Regolamento Europeo sulla Privacy che non permetterebbe di agire su tali contenuti attraverso l’impiego di un supporto umano, sia per il riconoscimento che per l’indirizzamento verso gruppi di supporto.

Facebook e Instagram, come agiscono attualmente in caso di contenuti a rischio

Per individuare i post potenzialmente pericolosi che, come in questo caso, possano istigare le persone con difficoltà è stato messo a punto un sistema basato su una tecnologia in grado di riconoscere i contenuti a rischio. Una volta individuati, il procedimento prevede che tali post, sia in formato testuale che fotografico, come immagini, disegni, meme o vere e proprie foto, vengano inoltrati a un gruppo di revisori formato da persone vere e proprie e non rappresentato da un’intelligenza artificiale.

Una volta analizzati tali contenuti, il gruppo di revisori può agire secondo diverse modalità. Come prima cosa, il gruppo può decidere di rimuovere i post o le immagini; se invece si tratta di casi ritenuti più a rischio, provvede a mettere in contatto la persona con le organizzazioni locali che possono aiutarla ad affrontare tali problemi o addirittura, se necessario, contattare i servizi di emergenza.

Ed è proprio l’ultima parte su cui Facebook sta lavorando, cercando una quadra con il legislatore per poter finalmente estendere il suo supporto anche ai cittadini europei che, finora, sono rimasti fuori da questa tipologia di aiuto.

Facebook e Instagram, i numeri dell’emergenza suicidi e autolesionismo

Secondo quanto riportato da Facebook e Instagram, i sistemi impiegati nell’individuazione di post sul suicidio e autolesionismo stanno già dando degli ottimi risultati. Dal messaggio pubblicato, si apprende che oltre il 90% dei contenuti individuati tra Aprile e Giugno 2020 è stato riconosciuto proprio dalla tecnologia impiegata, ancor prima che ci fosse un intervento di segnalazione da parte degli altri utenti delle piattaforme.

Diventa dunque un impegno sempre più forte quello delle due piattaforme che, oltre a questo, hanno scelto di impiegare un servizio di supporto per tutte quelle persone che effettuano ricerche di account o hashtag collegati a questi temi. Lavorando a stretto contatto con molte associazioni locali di aiuto, i due big dei social network hanno l’obiettivo di fungere da collegamento tra le due parti, sempre in accordo sulle stringenti regolamentazioni sulla privacy che vigono in Europa.