Tausende Meldungen über KI-generierte Inhalte zu Kindesmissbrauch

In den letzten Monaten haben Kinderschutzexperten und Forscher davor gewarnt, dass kreative KI den Online-Missbrauch verschärfen könnte.

Meta-CEO Mark Zuckerberg spricht am 31. Januar 2024 vor einem Ausschuss des US-Senats für Justiz vor einer Menge von Zuhörern, die KI-generierte Bilder in den Händen halten. Foto: Reuters

Das NCMEC hat die Gesamtzahl der im Jahr 2023 eingegangenen Meldungen über Inhalte mit Kindesmissbrauchsbezug aus allen Quellen noch nicht veröffentlicht. Im Jahr 2022 gingen jedoch Meldungen über rund 88,3 Millionen Dateien zu diesem Thema ein.

„Wir erhalten Berichte von den innovativen KI-Unternehmen selbst, von (Online-)Plattformen und von Mitgliedern der Öffentlichkeit“, sagte John Shehan, Vizepräsident des NCMEC.

Die CEOs von Meta, X, TikTok, Snap und Discord sagten am Mittwoch (31. Januar) vor einem US-Senatsausschuss zur Kindersicherheit auf Online-Plattformen aus. US-Abgeordnete befragten die Social-Media-Unternehmen zu ihren Bemühungen, Kinder vor „Online-Pädophilen“ zu schützen.

Generative KI könnte von böswilligen Akteuren dazu missbraucht werden, Kindern in der realen Welt wiederholt Schaden zuzufügen, indem gefälschte Bilder von ihnen erstellt werden, erklärten Forscher des Stanford Internet Observatory in einem Bericht vom vergangenen Juni.

Fallon McNulty, Direktorin der CyberTipline des NCMEC, die Meldungen über Online-Kindesmissbrauch entgegennimmt, sagte, dass KI-generierte Inhalte „immer fotorealistischer“ würden, was es schwierig mache, festzustellen, ob es sich bei den Opfern um echte Menschen handle.

McNulty sagte, OpenAI, das Unternehmen, das ChatGPT entwickelt hat, habe ein Verfahren zur Einreichung von Berichten an NCMEC eingerichtet, und die Organisation sei mit anderen KI-Unternehmen im Gespräch.

Hoang Hai (laut Reuters, FT)

Quelle: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html