Ronaldo in nep-casino reclame: Meta laat oplichters vrij spel!
IT Insights
De casus die tot de uitspraak van de Oversight Board leidde, betrof een advertentie voor een online casino-achtig spel genaamd Plinko. In de advertentie werd een gemanipuleerde video gebruikt van de gepensioneerde Braziliaanse voetballer Ronaldo Nazário. Ondanks dat de video duidelijke tekenen van manipulatie vertoonde en meer dan vijftig keer als oplichterij werd gemeld, verwijderde Meta de advertentie aanvankelijk niet. Pas nadat de Oversight Board de zaak in behandeling nam, werd de advertentie, die al meer dan 600.000 keer bekeken was, verwijderd. De onderliggende Facebook-post bleef echter nog langer online. De Oversight Board stelt dat deze casus fundamentele tekortkomingen blootlegt in Meta’s aanpak van contentmoderatie met betrekking tot oplichting met beroemdheden. Meta gaf aan dat het beleid alleen wordt gehandhaafd na escalatie, om te verzekeren dat de afgebeelde persoon het product niet daadwerkelijk heeft onderschreven. Deze werkwijze, gecombineerd met de inconsistente interpretatie van wat een ‘nep-persona’ is door contentmoderators, zorgt ervoor dat veel oplichtingscontent door de mazen van het net glipt.
De Oversight Board dringt er bij Meta op aan om de interne richtlijnen te actualiseren, contentmoderators de bevoegdheid te geven om dergelijke oplichting te identificeren en hen te trainen in het herkennen van gemanipuleerde content. Meta reageert echter door te stellen dat veel van de beweringen van de Oversight Board onjuist zijn en wijst op een test met gezichtsherkenningstechnologie die vorig jaar is gestart om oplichting met beroemdheden te bestrijden. De vraag blijft echter of deze technologie voldoende is om de omvang van het probleem aan te pakken en of Meta bereid is om de nodige middelen en mankracht in te zetten om gebruikers effectief te beschermen tegen deepfake-oplichting. Het is duidelijk dat er meer nodig is dan alleen technologische oplossingen. Een grondige herziening van het beleid en de training van contentmoderators zijn essentieel om de verspreiding van dit soort oplichtingspraktijken op Meta’s platforms in te dammen.
