Es bestehen Bedenken, dass der Grok-Chatbot die Verbreitung von Fehlinformationen im Internet befeuern könnte.

Der Chatbot Grok von Elon Musk ermöglicht es Nutzern nun, KI-generierte Bilder aus Texten zu erstellen und diese auf X zu veröffentlichen, darunter auch gefälschte Bilder von Politikern wie dem ehemaligen US-Präsidenten Donald Trump, der US-Vizepräsidentin Kamala Harris...

Im Gegensatz zu anderen gängigen KI-gestützten Bildbearbeitungsprogrammen scheint Musks Grok weniger strengen Regulierungen zu unterliegen. So erzeugte Grok beispielsweise in Tests von CNN problemlos gefälschte Bilder von Politikern und täuschte damit Wähler.

Bild von Elon Musk, erstellt vom Chatbot Grok. (Quelle: CNN)

Einige X-Nutzer veröffentlichten sogar von Grok erstellte Bilder, die berühmte Persönlichkeiten beim Drogenkonsum, Zeichentrickfiguren beim Morden und sexualisierte Frauen in Bikinis zeigten.

Laut CNN verstärkt Grok die Befürchtungen, dass KI eine Flut von Fehlinformationen im Internet auslösen könnte, insbesondere im Hinblick auf die bevorstehenden US-Präsidentschaftswahlen.

Gesetzgeber, soziale Aktivistengruppen und führende Vertreter der Technologiebranche haben Alarm geschlagen und davor gewarnt, dass der Missbrauch solcher Instrumente Verwirrung und Chaos bei den Wählern verursachen könnte.

Viele der weltweit führenden KI-Unternehmen haben Richtlinien eingeführt, um zu verhindern, dass KI-basierte Bildgenerierungswerkzeuge zur Erzeugung politischer Desinformation missbraucht werden. Forscher haben jedoch festgestellt, dass Benutzer manchmal immer noch Wege finden, diese Richtlinien zu umgehen.

Mehrere Unternehmen, wie beispielsweise OpenAI, Meta und Microsoft, verwenden Technologien oder Kennzeichnungen, um Betrachtern zu helfen, mit ihrer KI erstellte Bilder zu identifizieren.

Auch Social-Media-Plattformen wie YouTube, TikTok, Instagram und Facebook kennzeichnen KI-generierte Inhalte in den Feeds der Nutzer, indem sie entweder selbst eine Technologie zur Erkennung einsetzen oder die Nutzer auffordern, dies zu kennzeichnen, wenn sie solche Inhalte veröffentlichen.

Am 16. August schien KI einige Einschränkungen für Grok eingeführt zu haben. Das Tool weigert sich nun, Bilder von politischen Kandidaten oder beliebten Zeichentrickfiguren bei Gewalttaten zu erstellen.

Quelle: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html