De inzet van kunstmatige intelligentie (AI) door Meta voor de monitoring van zijn platforms leidt tot een onoverzienbare toename van het aantal rapporten, waarvan een groot deel van lage kwaliteit is. Dit heeft verstrekkende gevolgen voor de effectiviteit van onderzoeken naar kindermisbruik, zo blijkt uit recente getuigenissen van wetshandhavers in New Mexico. De klachten richten zich op een tekort aan bruikbare gegevens, waardoor investigators niet effectief kunnen opereren.
Officieren van de Internet Crimes Against Children Task Force hebben aangegeven dat Meta’s geautomatiseerde meldsystemen duizenden tips genereren die niet bruikbaar zijn voor verder onderzoek. Tijdens een rechtszaak tegen Meta getuigde Benjamin Zwiebel, een speciaal agent van de ICAC, dat de kwaliteit van de tips vaak te wensen overlaat. “We ontvangen veel tips van Meta die eigenlijk niets voorstellen,” aldus Zwiebel.
Dergelijke getuigenissen zijn niet uniek; een andere anonieme ICAC-adviseur meldde dat het aantal cybertips van hun afdeling in dit specifieke tijdsbestek meer dan verdubbelde. Dit heeft geleid tot een overweldigend aantal rapporten van lage kwaliteit dat de capaciteit van het team in gevaar brengt.
Als reactie op de beschuldigingen heeft Meta verklaard dat het altijd bereid is geweest om samen te werken met wetshandhavingsinstanties. In 2024 ontving het bedrijf meer dan 9.000 noodverzoeken van Amerikaanse autoriteiten, die gemiddeld binnen 67 minuten werden afgehandeld, vooral als het gaat om zaken die betrekking hebben op de veiligheid van kinderen en zelfmoordpreventie.
Een Meta-woordvoerder benadrukte dat het bedrijf, in overeenstemming met de wet, meldingen van kindermisbruik doorgeeft aan het National Center for Missing & Exploited Children (NCMEC) en ondersteuning biedt bij het prioriteren van deze meldingen. Toch geven ICAC-officieren aan dat sommige van deze meldingen niet strafbaar zijn, terwijl andere niet de geloofwaardige bewijzen bevatten die nodig zijn voor vervolging.
De recente stijging van het aantal tips is tevens het gevolg van de aangenomen Report Act, die in mei 2024 in werking trad en de rapportageverplichtingen uitbreidde. Deze wet verplicht bedrijven om meldingen van geplande of dreigende misdaad, mensenhandel en voorlopige uitbuiting te behouden en verder te documenteren. Ondanks de inspanningen blijven de problemen met de kwaliteit van de meldingen aanhouden.
In 2024 was Meta goed voor ongeveer twee derde van de 20,5 miljoen tips die naar de CyberTipline van NCMEC werden gestuurd, een daling ten opzichte van 36,2 miljoen in 2023. Dit vermindering wordt deels toegeschreven aan veranderingen in Meta’s rapportageprocedures. In het tweede kwartaal van 2025 rapporteerde Meta meer dan 2 miljoen CyberTip-meldingen, waarvan meer dan 528.000 actief verkeerde interacties met kinderen betroffen en meer dan 1,5 miljoen betrekking hadden op het delen of opnieuw delen van kindermisbruikmateriaal.
Desondanks waarschuwt JB Branch van Public Citizen dat de afhankelijkheid van AI de efficiëntie van de rapportagewet ondermijnt. Hij stelt dat menselijke beoordelaars, zolang ze nog in het proces betrokken waren, de beste filters waren voor het beoordelen van rapporten. De afname van het aantal menselijke reviewers heeft geleid tot een mengelmoes van onjuiste meldingen en valspositieven, met een negatieve impact op de moraal binnen de op onderzoek gerichte instanties.
Conclusie: De weg vooruit
De enorme stroom aan AI-gegenereerde tips legt een zware druk op de onderzoeksafdelingen en ondermijnt hun capaciteit om daadwerkelijk effectieve actie te ondernemen. De feedback van de onderzoekers is duidelijk: zonder voldoende menselijke inzet zijn ze niet in staat om adequaat om te gaan met de steeds groter wordende hoeveelheid informatie. De vraag blijft hoe Meta deze uitdagingen kan oplossen om te voldoen aan zowel wettelijke verplichtingen als hun verantwoordelijkheden tegenover kwetsbare groepen in de samenleving.
Vraag & Antwoord
Wat zijn de belangrijkste problemen met de AI-geassisteerde meldsystemen van Meta?
De meldsystemen genereren veel ongebruikbare rapporten, wat leidt tot een inefficiënte behandeling van werkelijk misbruikgerelateerde meldingen door wetshandhaving.
Hoe heeft de Report Act invloed gehad op de meldingen van Meta?
De wet heeft de rapportageverplichtingen uitgebreid, wat resulteert in een stijging van het aantal meldingen, maar ook een verslechtering van de kwaliteit van deze rapporten.
Wat is de rol van menselijke moderators in het proces?
Menselijke moderators waren vroeger cruciaal in het filteren van meldingen. Hun afwezigheid schaad de effectiviteit van het beoordelingsproces, waardoor steeds meer onjuiste meldingen de revue passeren.
