Google: KI-Software Gemini wird zur Erstellung gefälschter terroristischer Inhalte missbraucht

In einer Mitteilung an die australischen Behörden erklärte der Technologiekonzern Google, dass er im vergangenen Jahr weltweit 258 Beschwerden erhalten habe, wonach Googles KI-Software Gemini zur Erstellung gefälschter terroristischer oder gewalttätiger extremistischer Inhalte verwendet worden sei. und 86 Benutzerberichte warnen davor, dass Gemini zur Produktion von Inhalten mit Kindesmissbrauch verwendet wird.

Die australische eSafety Commission erklärte, der Bericht von Google biete weltweit erstmals Einblicke darin, wie Benutzer Technologien ausnutzen können, um schädliche und illegale Inhalte zu erstellen.

Die eSafety-Beauftragte Julie Inman Grant sagte, dies unterstreiche, wie wichtig es sei, dass Unternehmen, die KI-Produkte entwickeln, Sicherheitsvorkehrungen treffen und deren Wirksamkeit testen, um die Produktion dieser Art schädlicher, gefälschter Inhalte zu verhindern.

Google nutzte Matchmaking – ein automatisiertes System, das neu hochgeladene Bilder mit bekannten Bildern abgleicht –, um von Gemini erstellte Inhalte mit Kindesmissbrauch zu identifizieren und zu entfernen. Die australische eSafety Commission erklärte jedoch, Google habe dasselbe System nicht verwendet, um terroristische oder gewalttätige extremistische Inhalte von Gemini zu entfernen.

Nach geltendem australischen Recht müssen Technologieunternehmen der eSafety Commission regelmäßig Informationen über ihre Bemühungen zur Schadensminderung vorlegen, andernfalls drohen ihnen Strafen.

Zuletzt mussten Unternehmen der Kommission zwischen April 2023 und Februar 2024 Informationen melden. Die australische eSafety Commission hat Telegram und Twitter – später in X umbenannt – wegen Mängeln bei der Berichterstattung mit einer Geldstrafe belegt.

X hat bereits eine Berufung gegen die Geldstrafe von 610.500 australischen Dollar (382.000 US-Dollar) verloren, das soziale Netzwerk plant jedoch, erneut Berufung einzulegen. Auch Telegram plant, gegen die Geldstrafe gegen den Kanal Berufung einzulegen.

Seitdem der beliebte Chatbot ChatGPT von OpenAI (USA) Ende 2022 explosionsartig ins öffentliche Bewusstsein gelangte, fordern Regulierungsbehörden auf der ganzen Welt wirksamere Maßnahmen, um sicherzustellen, dass böswillige Akteure KI nicht missbrauchen, um Terrorismus anzustiften, Betrug zu begehen, gefälschte Pornografie zu erstellen und andere missbräuchliche Verhaltensweisen an den Tag zu legen.

Quelle: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html