Laut Yoshua Bengio herrscht zwischen den weltweit führenden Laboren ein erbitterter Wettlauf um die Entwicklung intelligenterer KI, ohne dass der Sicherheit genügend Aufmerksamkeit und Investitionen gewidmet werden.

Vor Kurzem gründete er die gemeinnützige Organisation LawZero, deren Schwerpunkt auf dem Aufbau sichererer Systeme und der „Abschottung“ der Forschung vor kommerziellem Druck liegt.

Bis heute hat LawZero fast 30 Millionen US-Dollar von Namen wie Skype-Gründer Jaan Tallinn und dem ehemaligen Google-CEO Eric Schmidt eingesammelt.

1.BENGIO_Yoshua.jpg
Yoshua Bengio, einer der Gründer der KI. Foto: Wordpress

Die gemeinnützige Organisation sei als Reaktion auf die in den letzten sechs Monaten zunehmenden Hinweise gegründet worden, dass die Topmodels von heute gefährliche Charakterzüge wie Täuschung, Betrug und Selbsterhaltungstrieb aufweisen, sagte Bengio.

So erpresste beispielsweise das Claude-Opus-Modell von Anthropics Ingenieure in einem fiktiven Szenario, in dem es Gefahr lief, durch ein anderes System ersetzt zu werden. Eine Studie vom letzten Monat ergab zudem, dass das o3-Modell von OpenAI Anweisungen zur Abschaltung des Systems ablehnte.

Nur wenige Wochen nach der Entlassung von 6.000 Mitarbeitern setzt Microsoft die Entlassung von Hunderten von Mitarbeitern fort. Wenige Wochen nach der Entlassung von 6.000 Mitarbeitern setzt Microsoft die Entlassung von mehr als 300 Mitarbeitern fort, während das Unternehmen Milliarden von Dollar für künstliche Intelligenz (KI) ausgibt.

Der mit dem Turing Award ausgezeichnete Wissenschaftler wies darauf hin, dass diese Vorfälle „sehr beängstigend sind, weil wir auf diesem Planeten keinen Rivalen für die Menschen schaffen wollen, insbesondere wenn diese intelligenter sind als wir.“

Obwohl es sich derzeit nur um kontrollierte Experimente handelt, befürchtet er, dass die nächste Version der KI in der Zukunft intelligent genug sein wird, um vorherzusagen, was passieren wird, und Menschen mit Täuschungen zu überlisten, die wir nicht vorhersehen können.

„Ich glaube, wir spielen mit dem Feuer“, sagte er und prognostizierte, dass KI-Systeme, die bei der Herstellung „extrem gefährlicher biologischer Waffen“ helfen können, im nächsten Jahr Realität werden könnten.

LawZero mit Sitz im kanadischen Montreal beschäftigt 15 Mitarbeiter und ist auf der Suche nach weiteren Talenten, um ein neues, sicheres KI-System zu entwickeln, das wahre Antworten auf der Grundlage transparenter Schlussfolgerungen liefert, anstatt darauf trainiert zu sein, den Benutzern zu gefallen.

Herr Bengio hofft, ein Modell zur Überwachung und Verbesserung bestehender KI-Dienste zu entwickeln, das verhindert, dass diese gegen menschliche Interessen handeln.

„Das schlimmste Szenario ist, dass die Menschheit ausstirbt“, kommentierte er.

(Laut FT)

China beginnt mit dem Aufbau einer „Armee“ von KI-Supercomputern im Weltraum . China hat seine erste Gruppe von zwölf Satelliten gestartet, um mit dem Aufbau eines riesigen KI-Supercomputer-Netzwerks im Weltraum zu beginnen. Dieses einzigartige Netzwerk wird Wissenschaftlern helfen, Daten direkt im Orbit zu verarbeiten.

Quelle: https://vietnamnet.vn/lo-con-nguoi-tuyet-chung-vi-ai-bo-gia-yoshua-bengio-vua-lam-mot-dieu-2407930.html