Duizenden meldingen van door AI gegenereerde kindermisbruikcontent

Deskundigen en onderzoekers op het gebied van kindveiligheid waarschuwen de afgelopen maanden dat creatieve AI online misbruik kan verergeren.

Meta-CEO Mark Zuckerberg spreekt op 31 januari 2024 tijdens een hoorzitting van de Amerikaanse Senaatscommissie voor Justitie, voor een publiek dat AI-gegenereerde afbeeldingen bij zich draagt. Foto: Reuters

NCMEC heeft nog niet het totale aantal meldingen van kindermisbruik uit alle bronnen bekendgemaakt dat het in 2023 heeft ontvangen. Maar in 2022 ontving het ongeveer 88,3 miljoen meldingen over het probleem.

"We ontvangen rapporten van de innovatieve AI-bedrijven zelf, (online) platforms en het publiek", aldus John Shehan, vice-president van NCMEC.

De CEO's van Meta, X, TikTok, Snap en Discord getuigden woensdag (31 januari) tijdens een hoorzitting in de Amerikaanse Senaat over de veiligheid van kinderen op online platforms. Amerikaanse wetgevers ondervroegen socialemediabedrijven over hun inspanningen om kinderen te beschermen tegen "online roofdieren".

Generatieve AI zou door kwaadwillenden kunnen worden gebruikt om herhaaldelijk echte kinderen schade toe te brengen door neppe afbeeldingen van hen te maken, zo stelden onderzoekers van het Stanford Internet Observatory in een rapport van afgelopen juni.

Fallon McNulty, directeur van de CyberTipline van NCMEC, die meldingen van online kinderuitbuiting verwerkt, zei dat door AI gegenereerde content "steeds fotorealistischer" wordt, waardoor het moeilijk is om vast te stellen of de slachtoffers echte mensen zijn.

McNulty zei dat OpenAI, het bedrijf dat ChatGPT heeft ontwikkeld, een proces heeft opgezet om rapporten in te dienen bij NCMEC en dat de organisatie in gesprek is met andere AI-bedrijven.

Hoang Hai (volgens Reuters, FT)

Bron: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html