Google: Die KI-Software Gemini wird missbraucht, um gefälschte terroristische Inhalte zu erstellen.

In einer an die australischen Behörden gerichteten Stellungnahme erklärte Google, dass es im vergangenen Jahr weltweit 258 Beschwerden über die Verwendung seiner Software für künstliche Intelligenz (KI), Gemini, zur Erstellung gefälschter terroristischer oder gewalttätiger extremistischer Inhalte erhalten habe; außerdem seien 86 Nutzerberichte eingegangen, die davor warnten, dass Gemini zur Herstellung von Inhalten mit Kindesmissbrauchsdarstellungen missbraucht werde.

Die australische Kommission für elektronische Sicherheit (ESSC) kam zu dem Schluss, dass der Bericht von Google weltweit den ersten Einblick in die Art und Weise bietet, wie Nutzer Technologien ausnutzen können, um bösartige und illegale Inhalte zu erstellen.

Kommissarin Julie Inman Grant von der Cybersecurity Commission erklärte, dies unterstreiche die Bedeutung, dass Unternehmen, die KI-Produkte entwickeln, die Wirksamkeit von Schutzmaßnahmen zur Verhinderung der Produktion schädlicher, gefälschter Inhalte entwickeln und testen.

Google nutzte eine Abgleichsfunktion – ein automatisiertes System, das neu hochgeladene Bilder mit bekannten Bildern vergleicht –, um von Gemini erstellte Inhalte mit Kindesmissbrauchsdarstellungen zu identifizieren und zu entfernen. Die australische Kommission für elektronische Sicherheit (Australian Electronic Safety Commission) stellte jedoch fest, dass Google dasselbe System nicht zur Entfernung terroristischer oder gewaltbereiter extremistischer Inhalte von Gemini einsetzte.

Nach geltendem australischem Recht müssen Technologieunternehmen der Electronic Security Commission regelmäßig Informationen über ihre Bemühungen zur Schadensminderung vorlegen, andernfalls drohen ihnen Strafen.

Zuletzt waren Unternehmen verpflichtet, dieser Kommission Informationen für den Zeitraum von April 2023 bis Februar 2024 zu melden. Die australische Kommission für elektronische Sicherheit verhängte gegen Telegram und Twitter – später umbenannt in X – Geldstrafen wegen Mängeln in ihrer Berichterstattung.

X hat bereits einmal gegen die Geldstrafe von 610.500 AUD (382.000 USD) Berufung eingelegt, es wird jedoch erwartet, dass die Social-Media-Plattform erneut Berufung einlegen wird. Auch Telegram plant, gegen die gegen den Kanal verhängte Geldstrafe Berufung einzulegen.

Seitdem der „sensationelle“ Chatbot ChatGPT des US-Unternehmens OpenAI Ende 2022 in der Öffentlichkeit für Furore sorgte, fordern Regulierungsbehörden weltweit wirksamere Maßnahmen, um sicherzustellen, dass böswillige Akteure KI nicht missbrauchen, um zu Terrorismus anzustiften, Betrug zu begehen, gefälschte pornografische Inhalte zu erstellen und andere missbräuchliche Aktivitäten auszuüben.

Quelle: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html