Tecnologia
L’anno scorso, Meta ha permesso migliaia di annunci a pagamento contenenti immagini sessualmente esplicite sulle piattaforme di social media, tra cui Facebook e Instagram.
Nel 2024, Meta ha permesso più di 3300 annunci pornografici – molti dei quali con contenuti generati dall’intelligenza artificiale – sulle sue piattaforme di social media, tra cui Facebook e Instagram. I risultati provengono da un rapporto di AI Forensics, un’organizzazione non-profit europea focalizzata sull’investigazione degli algoritmi delle piattaforme tecnologiche. I ricercatori hanno anche scoperto un’incoerenza nelle politiche di moderazione dei contenuti di Meta ricaricando molte delle stesse immagini esplicite come post standard su Instagram e Facebook. A differenza degli annunci, quei post sono stati rapidamente rimossi per violazione degli Standard della Comunità di Meta.
“Sono sia delusa che non sorpresa dal rapporto, dato che la mia ricerca ha già esposto doppi standard nella moderazione dei contenuti, in particolare nei regni dei contenuti sessuali,” dice Carolina Are del Centre for Digital Citizens dell’Università di Northumbria nel Regno Unito.
Il rapporto di AI Forensics si è concentrato su un piccolo campione di annunci mirati all’Unione Europea. Ha scoperto che gli annunci espliciti permessi da Meta miravano principalmente a uomini di mezza età e anziani con promozioni per “prodotti di miglioramento sessuale dubbi” e “siti di incontri occasionali”, con una portata totale di oltre 8,2 milioni di impressioni.
Tale permissività riflette un doppio standard più ampio nella moderazione dei contenuti, dice Are. Le piattaforme tecnologiche spesso bloccano contenuti di e per “donne, persone che si presentano come femminili e utenti LGBTQIA+,” dice. Quel doppio standard si estende alla salute sessuale maschile e femminile. “Un esempio sono gli annunci di lingerie e relativi al ciclo mestruale che vengono [rimossi] da Meta, mentre gli annunci per il Viagra sono approvati,” dice.
Oltre a trovare immagini generate dall’intelligenza artificiale negli annunci, il team di AI Forensics ha anche scoperto deepfake audio: in alcuni annunci per farmaci di miglioramento sessuale, ad esempio, le immagini pornografiche erano sovrapposte alla voce digitalmente manipolata dell’attore Vincent Cassel.
“Meta proibisce la visualizzazione di nudità o attività sessuale negli annunci o nei post organici sulle nostre piattaforme, e stiamo rimuovendo i contenuti che violano le regole che ci sono stati segnalati,” dice un portavoce di Meta. “I malintenzionati stanno costantemente evolvendo le loro tattiche per evitare l’applicazione delle regole, motivo per cui continuiamo a investire nei migliori strumenti e tecnologie per aiutare a identificare e rimuovere i contenuti che violano le regole.”
Il rapporto coincide con l’annuncio del CEO di Meta, Mark Zuckerberg, che l’azienda eliminerà i suoi team di verifica dei fatti a favore di note comunitarie crowdsourced.
“Se vogliamo sembrare davvero distopici – e a questo punto, dato l’ultima decisione di Zuckerberg di rimuovere i verificatori di fatti, penso che ne abbiamo motivo – possiamo persino dire che Meta è tanto veloce a privare gli utenti individuali e marginalizzati della loro agenzia quanto a prendere soldi da annunci dubbi,” dice Are.