Tausende Berichte über KI-generierte Inhalte zum Thema Kindesmissbrauch

In den letzten Monaten haben Kindersicherheitsexperten und Forscher davor gewarnt, dass kreative KI den Online-Missbrauch verschlimmern könnte.

Meta-CEO Mark Zuckerberg spricht am 31. Januar 2024 bei einer Anhörung des Justizausschusses des US-Senats vor einer Menge Teilnehmer, die KI-generierte Bilder mit sich tragen. Foto: Reuters

Das NCMEC hat noch nicht die Gesamtzahl der Meldungen über Kindesmissbrauchsinhalte aus allen Quellen veröffentlicht, die es im Jahr 2023 erhalten hat. Im Jahr 2022 gingen jedoch Meldungen über etwa 88,3 Millionen Dateien zu diesem Problem ein.

„Wir erhalten Berichte von den innovativen KI-Unternehmen selbst, (Online-)Plattformen und Mitgliedern der Öffentlichkeit“, sagte John Shehan, Vizepräsident des NCMEC.

Die CEOs von Meta, X, TikTok, Snap und Discord sagten am Mittwoch (31. Januar) bei einer Anhörung des US-Senats zur Kindersicherheit auf Online-Plattformen aus. US-Abgeordnete befragten Social-Media-Unternehmen zu ihren Bemühungen, Kinder vor „Online-Raubtieren“ zu schützen.

Generative KI könnte von Kriminellen eingesetzt werden, um echten Kindern wiederholt Schaden zuzufügen, indem sie gefälschte Bilder von ihnen erstellen, erklärten Forscher des Stanford Internet Observatory in einem Bericht vom vergangenen Juni.

Fallon McNulty, Leiter der CyberTipline des NCMEC, die Meldungen über Online-Ausbeutung von Kindern entgegennimmt, sagte, KI-generierte Inhalte würden „immer fotorealistischer“, was es schwieriger mache, festzustellen, ob es sich bei den Opfern um echte Menschen handele.

McNulty sagte, OpenAI, das Unternehmen, das ChatGPT entwickelt hat, habe ein Verfahren zur Übermittlung von Berichten an NCMEC eingerichtet und die Organisation befinde sich in Gesprächen mit anderen KI-Unternehmen.

Hoang Hai (laut Reuters, FT)

Quelle: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html