Die Welt ist nicht bereit, eine KI zu entwickeln, die so intelligent ist wie das menschliche Gehirn.

Laut einem leitenden Forscher bei OpenAI ist die Welt noch nicht bereit für künstliche allgemeine Intelligenz (AGI) oder für den Moment, in dem künstliche Intelligenz so intelligent ist wie das menschliche Gehirn.

Ist allgemeine künstliche Intelligenz ein Risiko?

Seit Jahren spekulieren Forscher über die Entstehung künstlicher allgemeiner Intelligenz (AGI). Künstliche Systeme könnten dann ein breites Spektrum an Aufgaben genauso gut bewältigen wie Menschen. Viele sehen in dieser Entwicklung ein existenzielles Risiko, da sie Computern ermöglichen könnte, auf eine Weise zu agieren, die sich Menschen nie hätten vorstellen können.

Laut Miles Brindage ist die Welt noch nicht bereit für die Einführung künstlicher allgemeiner Intelligenz (AGI).

Nun gibt der Mann, der dafür sorgen soll, dass ChatGPT-Entwickler OpenAI für AGI bereit ist, zu, dass weder die Welt noch das Unternehmen selbst für den nächsten Schritt „bereit“ sind. Miles Brundage war „OpenAIs leitender Berater für AGI-Bereitschaft“, gab jedoch diese Woche seinen Rücktritt bekannt, als das Unternehmen die Gruppe auflöste.

„Weder OpenAI noch irgendein anderes Pionierlabor ist bereit [für AGI], und die Welt auch nicht. Um es klar zu sagen: Ich glaube nicht, dass dies eine umstrittene Aussage der OpenAI-Führung ist, sondern vielmehr die Frage, ob das Unternehmen und die Welt auf dem richtigen Weg sind, rechtzeitig bereit zu sein“, sagte Brundage, der sechs Jahre lang die KI-Sicherheitsinitiativen des Unternehmens mitgestaltet hat.

Brundages Abgang ist der jüngste in einer Reihe hochkarätiger Abgänge aus den Sicherheitsteams von OpenAI. Jan Leike, ein bekannter Forscher, verließ das Unternehmen, nachdem er erklärt hatte, dass „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen“. Auch Mitgründer Ilya Sutskever verließ das Unternehmen, um sein eigenes KI-Startup zu gründen, das sich auf die Entwicklung sicherer AGI konzentriert.

Brundages Auflösung seiner „AGI Readiness“-Gruppe erfolgte nur wenige Monate, nachdem das Unternehmen seine „Superalignment“-Gruppe aufgelöst hatte, die sich der Eindämmung langfristiger KI-Risiken widmete. Dies offenbarte Spannungen zwischen der ursprünglichen Mission von OpenAI und den kommerziellen Ambitionen des Unternehmens.

Profitdruck bringt OpenAI vom sicheren Weg ab

OpenAI steht Berichten zufolge unter Druck, innerhalb von zwei Jahren von einem gemeinnützigen zu einem gewinnorientierten Unternehmen zu werden – andernfalls riskiert man, die Finanzierung aus der jüngsten Investitionsrunde in Höhe von 6,6 Milliarden US-Dollar zu verlieren. Dieser Wandel hin zur Kommerzialisierung bereitet Brundage schon lange Sorgen. Bereits 2019, als OpenAI seine gewinnorientierte Abteilung gründete, äußerte er entsprechende Bedenken.

OpenAI-CEO Sam Altman hat „Kopfschmerzen“ aufgrund des Drucks, der auf dem Unternehmen lastet, Gewinne zu erzielen.

Brundage begründete seinen Weggang mit zunehmenden Einschränkungen seiner Forschungs- und Publikationsfreiheit bei dem traditionsreichen Unternehmen. Er betonte die Notwendigkeit einer unabhängigen Stimme in KI-Politikdiskussionen, frei von Branchenvorurteilen und Interessenkonflikten. Nachdem er die Führung von OpenAI bei den internen Vorbereitungen beraten hatte, glaubt er, nun auch von außerhalb der Organisation einen größeren Einfluss auf die globale KI-Governance nehmen zu können.

Die Abgänge spiegeln auch eine tiefere kulturelle Kluft innerhalb von OpenAI wider. Viele Forscher kamen, um die KI-Forschung voranzutreiben, und finden sich nun in einem zunehmend produktorientierten Umfeld wieder. Die interne Ressourcenverteilung ist zu einem Streitpunkt geworden – Berichten zufolge wurde Leikes Team vor seiner Auflösung Rechenleistung für Sicherheitsforschung verweigert.

OpenAI wurde in den letzten Monaten zu seinen Plänen für die Entwicklung künstlicher Intelligenz und seiner Bedeutung für die Sicherheit befragt. Obwohl ChatGPT als gemeinnützige Organisation gegründet wurde, die sich der Erforschung sicherer künstlicher Intelligenz widmet, führte der Erfolg von ChatGPT zu hohen Investitionen und dem Druck, die neue Technologie gewinnbringend zu nutzen.

Quelle: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm