Prima di procedere
Il 5 giugno 2025, l'Oversight Board di Meta ha revocato la decisione iniziale dell'azienda di mantenere online un post su Facebook che conteneva un video manipolato attraverso l'uso di tecnologie di intelligenza artificiale avanzata. Questo video, diffuso a partire da settembre 2024, raffigurava apparentemente l'ex calciatore brasiliano Ronaldo Nazário, il quale invitava i fruitori di Facebook a scaricare un gioco online denominato Plinko. Tuttavia, era evidente che l'immagine fosse stata digitalmente alterata e utilizzata senza il permesso dello sportivo, violando gli standard della piattaforma e promuovendo contenuti ingannevoli.
Il video mostrava Ronaldo mentre parlava direttamente alla telecamera, ma le discrepanze tra l'audio e il movimento delle labbra rivelavano l'inganno. Inoltre, le immagini generate dall'IA mostravano persone comuni, come insegnanti e autisti, i cui stipendi erano confrontati con i presunti guadagni provenienti dal gioco. Nonostante queste marcate alterazioni e le ripetute segnalazioni degli utenti, il post ha sorpassato le 600.000 visualizzazioni prima che fosse rimosso dalla piattaforma. Sorprendentemente, il link diretto all'interno del post portava a un prodotto differente, noto come Bubble Shooter, accentuando i sospetti di truffa.
Fu l'intervento dell'Oversight Board, organo incaricato di garantire il rispetto delle normative su Facebook e Instagram, a indurre Meta a riconoscere la violazione delle sue politiche contro frodi, spam e pratiche commerciali ingannevoli. Il Board ha stabilito che il contenuto violava palesemente le regole sulla creazione di false identità e l'impiego non autorizzato dell'immagine di celebri personalità per scopi fraudolenti. La presenza di un link che portava a un altro gioco rispetto a quello pubblicizzato ha sollevato ulteriori preoccupazioni riguardo alla frode.
Questa rimozione tardiva ha messo in luce le carenze del sistema di revisione dei contenuti di Meta, il quale sembrava riservato ai team specializzati piuttosto che ai moderatori ordinari. La decisione è diventata un punto cruciale di discussione sull'uso aumentato di contenuti deepfake per pubblicità ingannevole, un fenomeno in aumento anche in Brasile, dove l'intelligenza artificiale è stata già usata per diffondere disinformazione politica e finanziaria.
L'Oversight Board ha severamente criticato Meta per non aver etichettato immediatamente il contenuto come manipolato e ha raccomandato in futuro l'adozione di indicatori visibili o etichette informative ogni qualvolta venga rilevato l'uso dell'IA in simili contenuti. È stata sottolineata la necessità di migliorare l'applicazione delle politiche in maniera scalabile, equipaggiando i moderatori con strumenti chiari per riconoscere segni di contenuti manipolati, come la mancata sincronia tra audio e video o la presenza di elementi identificativi come watermark.
La controversia ha sollevato ulteriori questioni riguardo alle responsabilità etiche di Meta nel diffondere contenuti che sfruttano l'identità di figure pubbliche, violando non solo i termini di servizio della piattaforma, ma anche i diritti fondamentali alla reputazione e alla privacy degli individui coinvolti. Secondo l'Oversight Board, Meta deve segnalare con attenzione le linee guida delle Nazioni Unite per mitigare gli effetti negativi dei contenuti monetizzati, specialmente quando questi esponono gli utenti a truffe e frodi.
Questo caso rappresenta un importante precedente nella regolamentazione dei contenuti manipolati e sottolinea l'urgenza di un approccio proattivo e sistematico. Con l'espandersi dell'uso dell'intelligenza artificiale, anche le minacce alla trasparenza informativa e alla sicurezza digitale proliferano. Meta è ora chiamata a potenziare i suoi strumenti di controllo per assicurare che la fiducia degli utenti non sia compromessa da contenuti ingannevoli.
Il caso Plinko non è isolato: gli archivi pubblicitari di Meta contano migliaia di video promozionali che impiegano celebrità grazie ai deepfake. Tra le figure coinvolte, si annoverano personalità di spicco come Cristiano Ronaldo, lo stesso CEO di Meta, Mark Zuckerberg, e attrici del calibro di Jamie Lee Curtis, che hanno pubblicamente denunciato l'uso non autorizzato della loro immagine per promuovere prodotti fraudolenti.
