Der Einsatz künstlicher Intelligenz (KI) zur Generierung gefälschter Informationen zur Beeinflussung der US-Präsidentschaftswahlen ist kein Problem mehr, sondern Realität. Am 22. Januar veröffentlichte das Justizministerium von New Hampshire (USA) eine Mitteilung über einen Fall, in dem einige Personen eine gefälschte Aufnahme von Präsident Joe Bidens Stimme erhalten hatten, in der dieser sie aufforderte, bei den lokalen Vorwahlen nicht ihre Stimme abzugeben.
Die Aufnahme, die mithilfe von KI-gestützter Deepfake-Technologie erstellt wurde, fordert die Wähler auf, ihre Stimmzettel aufzubewahren und behauptet, dass „die Stimmen der Bürger im November den Unterschied ausmachen werden, nicht am nächsten Dienstag“.
Die Stimme von US-Präsident Joe Biden wurde gefälscht, um die Wähler aufzufordern, nicht zu wählen
Laut Bloomberg stellte das auf Stimmbetrug spezialisierte Unternehmen Pindrop Security fest, dass die gefälschte Biden-Stimme mithilfe einer Technologie des Startups ElevenLabs erstellt wurde. ElevenLabs ist ein KI-Startup, das sich auf die Entwicklung künstlicher intelligenter Stimmgeneratoren spezialisiert hat und Sprachmodelle verwendet, die je nach Kontext in der Lage sind, Inhalten eine menschenähnliche Intonation hinzuzufügen.
Das Unternehmen verfügt über Tausende vorgefertigte KI-Stimmen, aus denen Nutzer wählen oder eigene Versionen erstellen können. Auf seiner Website erklärt ElevenLabs, dass die mit Deepfake-Technologie erstellten Stimmen von Politikern in bestimmten Situationen, beispielsweise in der Satire, für Karikaturen usw., verwendet werden können.
„Wir arbeiten hart daran, den Missbrauch unserer Audio-KI-Tools zu verhindern und nehmen Missbrauch äußerst ernst“, erklärte das Unternehmen in einer Erklärung. Das Unternehmen sperrte den Account kurz nachdem festgestellt wurde, dass jemand einen gefälschten Sprachclip von Präsident Joe Biden im Zusammenhang mit der Wahl erstellt hatte.
Kathleen Carley, Professorin für Informatik an der Carnegie Mellon University, sagte, der Fall sei nur die Spitze des Eisbergs in Sachen Wählerunterdrückung. „Er ist nur ein Vorbote dessen, was passieren könnte“, betonte Carley.
[Anzeige_2]
Quellenlink
Kommentar (0)