Der „AI-Pate“ äußert sich zum Sexskandal um Grok.

Der Sexskandal um Grok AI zeigt laut Yoshua Bengio, dem sogenannten „Pate der KI“, dass die Branche der künstlichen Intelligenz „völlig außer Kontrolle geraten“ sei.

Die weitverbreitete Veröffentlichung privater, nicht einvernehmlicher Bilder auf Elon Musks Social-Media-Account X, die mithilfe des KI-Tools Grok erstellt wurden, hat Besorgnis über das rasante Wachstum dieser Technologiebranche ausgelöst.

Yoshua Bengio, ein Pionier der Informatik , argumentiert, dass Technologieunternehmen Systeme ohne die notwendigen technischen und sozialen Barrieren aufbauen.

Im Gespräch mit dem Guardian sagte Bengio, dass die aktuelle Situation zwar noch nicht völlig chaotisch sei, aber dringend korrigiert werden müsse.

„Diese Branche ist viel zu unreguliert. Wegweisende KI-Unternehmen entwickeln immer leistungsfähigere Systeme, denen es jedoch an Sicherheitsvorkehrungen mangelt, was eindeutig negative Auswirkungen auf die Menschen hat“, sagte er.

Die Grok-App wurde in zwei Ländern verboten und wird derzeit in Großbritannien untersucht. Foto: PA

Diese Aussage erfolgt im Zusammenhang mit der kürzlichen Ernennung des Historikers Yuval Noah Harari und des ehemaligen Rolls-Royce-CEO Sir John Rose zum Vorstandsmitglied seines KI-Sicherheitslabors.

Unter dem Druck der Öffentlichkeit und politischer Kreise gab die Social-Media-Plattform X bekannt, dass sie Grok daran gehindert hat, Fotos von echten Personen in freizügiger Kleidung wie Bikinis zu bearbeiten, einschließlich bezahlter Konten.

Laut Bengio liegt ein Teil der Lösung in einer besseren Unternehmensführung, unter anderem in der Berufung ethisch integrer Personen in die Aufsichtsräte der Unternehmen.

Neben Harari und Rose ernannte er Maria Eitel, Gründerin der Nike Foundation, zur Präsidentin des von ihm im vergangenen Jahr gegründeten LawZero-Sicherheitslabors.

Bengio wurde nach Erhalt des Turing-Preises 2018 – einer Auszeichnung, die als Nobelpreis der Informatik gilt – als „Vater der KI“ bezeichnet. Er teilte sich diese Ehre mit Geoffrey Hinton und Yann LeCun (Vorsitzender der KI-Abteilung bei Meta).

Der ehemalige schwedische Ministerpräsident Stefan Löfven wird das erste Mitglied des globalen Beirats der Organisation sein. Der Historiker Harari, Autor von * Sapiens: Eine kurze Geschichte der Menschheit *, ist eine prominente Stimme, die immer wieder vor der Entwicklung von KI warnt, zuletzt in seinem Buch *Nexus*.

„Dies ist nicht nur eine technische Diskussion für zukunftsweisende KI-Unternehmen“, betonte Bengio. „Die Frage liegt darin, welche Entscheidungen als ethisch vertretbar gelten.“

Bengio, der derzeit als Professor für Informatik an der Universität Montreal tätig ist, hat 35 Millionen Dollar (etwa 26 Millionen Pfund) für LawZero eingeworben.

Diese Organisation entwickelt ein System namens Scientist AI, das parallel zu autonomen Systemen – auch bekannt als KI-Agenten – arbeitet, um potenziell schädliche Verhaltensweisen zu erkennen.

Er bekräftigte, dass die Vorstandsstruktur auf dem Gedanken beruhe, Persönlichkeiten mit hohem moralischem Anspruch zusammenzubringen. Sie werden LawZero dabei unterstützen, seinem Ziel, sichere KI-Systemlösungen von der Entwurfsphase an bereitzustellen, treu zu bleiben.

Letzten Monat warnte Bengio auch davor, KI zu viel Macht zu verleihen, da die Technologie Anzeichen von Selbsterhaltung zeige – eine große Sorge für KI-Sicherheitsexperten. Er betonte, dass Menschen nicht daran gehindert werden sollten, diese Systeme gegebenenfalls abzuschalten.

(Laut The Guardian)

Zwei Länder verbieten vorübergehend Elon Musks Grok-Chatbot : Die Regierungen Indonesiens und Malaysias haben angekündigt, den Zugang zu Grok, einem von Elon Musks xAI entwickelten Chatbot, aufgrund der Verbreitung pornografischer Bilder vorübergehend gesperrt zu haben.

Quelle: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html