Facebook contro il revenge porn. Nuova tecnologia e sostegno alle vittime

Condividere su Facebook immagini intime di una persona senza il suo permesso può essere devastante. Facebook interviene nuovamente per contrastare il revenge porn, ovvero la diffusione sui social di immagini intime che vengono condivise senza autorizzazione. Finora, per proteggere le vittime di questo fenomeno, la politica di Facebook è stata quella di rimuovere le immagini segnalate, utilizzando anche la tecnologia del photo-matching per evitare che vengano condivise nuovamente. Ma per trovare questi contenuti più rapidamente, e supportare al meglio le vittime, Facebook annuncia una nuova tecnologia di rilevamento, e un centro di risorse online per aiutare e supportare chi ha subito questo tipo di abusi.

Apprendimento automatico e AI rilevano le immagini

“Trovare queste immagini va oltre il rilevamento della nudità sulle nostre piattaforme – afferma Antigone Davis, responsabile globale della sicurezza -. Grazie all’apprendimento automatico e all’intelligenza artificiale, ora siamo in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione su Facebook e Instagram”. Questo significa che ora è possibile trovare questi contenuti prima che qualcuno li segnali, riporta Askanews. “Il che è importante per due motivi: spesso le vittime hanno paura di ritorsioni, per cui sono restie a segnalare il contenuto stesso, o non sono consapevoli che il contenuto è stato condiviso”, aggiunge Davis.

Se un contenuto viola gli della Comunità verrà rimossa e l’account responsabile disabilitato

Un team composto da persone appositamente formate del centro di Community Operations esaminerà i contenuti individuati dalla nuova tecnologia. “Se un immagine o un video viola i nostri standard della Comunità, lo rimuoveremo e nella maggior parte dei casi disabiliteremo anche gli account che condivideranno contenuti intimi senza autorizzazione – sottolinea Davis -. Offriamo la possibilità di fare appello se qualcuno ritiene che abbiamo commesso un errore”.

Un programma in collaborazione con le organizzazioni a sostegno delle vittime

Questa nuova tecnologia di rilevamento si aggiunge al programma pilota gestito in collaborazione con le organizzazioni a sostegno delle vittime. Questo programma offre alle persone un’opzione di emergenza per inviare a Facebook proattivamente, e in modo sicuro, una foto che temono possa essere diffusa. Inoltre, “per impedire che la foto venga condivisa sulla nostra piattaforma, creiamo un’impronta digitale di quell’immagine – spiega ancora la manager -. Avendo ricevuto un riscontro positivo dalle vittime e dalle organizzazioni di supporto, nei prossimi mesi amplieremo questo progetto pilota in modo che un maggior numero di persone possa beneficiare di questa opzione in caso di emergenza”.