Die Welt ist nicht bereit, eine KI zu entwickeln, die so intelligent ist wie das menschliche Gehirn.

Laut einem leitenden Forscher bei OpenAI ist die Welt noch nicht bereit für künstliche allgemeine Intelligenz (AGI) oder für den Punkt, an dem künstliche Intelligenz so intelligent ist wie das menschliche Gehirn.

Ist künstliche Intelligenz im Allgemeinen ein Risiko?

Seit Jahren spekulieren Forscher über die Entstehung künstlicher allgemeiner Intelligenz (AGI). Künstliche Systeme könnten ein breites Spektrum an Aufgaben genauso gut bewältigen wie Menschen. Viele sehen in dieser Entwicklung ein existenzielles Risiko, da sie Computern ermöglichen könnte, auf für Menschen unvorstellbare Weise zu arbeiten.

Laut Miles Brindage ist die Welt noch nicht bereit für die Ära der künstlichen allgemeinen Intelligenz (AGI).

Nun gibt der Mann, der dafür sorgen soll, dass ChatGPT-Entwickler OpenAI für AGI bereit ist, zu, dass weder die Welt noch das Unternehmen selbst für den nächsten Schritt „bereit“ sind. Miles Brundage war „OpenAIs leitender Berater für AGI-Bereitschaft“, gab jedoch diese Woche seinen Rücktritt bekannt, als das Unternehmen die Gruppe auflöste.

„Weder OpenAI noch irgendein anderes Pionierlabor ist bereit (für AGI), und die Welt auch nicht. Um es klar zu sagen: Ich glaube nicht, dass dies eine umstrittene Aussage der OpenAI-Führung ist, sondern vielmehr die Frage, ob das Unternehmen und die Welt auf dem richtigen Weg sind, um zum richtigen Zeitpunkt bereit zu sein“, sagte Brundage, der sechs Jahre lang die KI-Sicherheitsinitiativen des Unternehmens mitgestaltet hat.

Brundages Abgang ist der jüngste in einer Reihe bemerkenswerter Abgänge aus den Sicherheitsteams von OpenAI. Jan Leike, ein bekannter Forscher, verließ das Unternehmen, nachdem er erklärt hatte, dass „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen“. Auch Mitgründer Ilya Sutskever verließ das Unternehmen, um sein eigenes KI-Startup zu gründen, das sich auf die Entwicklung sicherer AGI konzentriert.

Brundages Auflösung seiner „AGI Readiness“-Gruppe erfolgte nur wenige Monate, nachdem das Unternehmen seine „Superalignment“-Gruppe aufgelöst hatte, die sich der Minderung langfristiger KI-Risiken widmete. Dies offenbarte Spannungen zwischen der ursprünglichen Mission von OpenAI und seinen kommerziellen Ambitionen.

Profitdruck bringt OpenAI vom sicheren Weg ab

Berichten zufolge steht OpenAI unter Druck, innerhalb von zwei Jahren von einem gemeinnützigen zu einem gewinnorientierten Unternehmen zu werden – andernfalls riskiert man, die Finanzierung aus der jüngsten Investitionsrunde in Höhe von 6,6 Milliarden US-Dollar zu verlieren. Dieser Wandel hin zur Kommerzialisierung bereitet Brundage schon lange Sorgen. Er äußerte bereits 2019, als OpenAI seine gewinnorientierte Abteilung gründete, Vorbehalte.

OpenAI-CEO Sam Altman hat aufgrund des Gewinndrucks, dem das Unternehmen ausgesetzt ist, „Kopfschmerzen“.

Brundage begründete seinen Weggang mit zunehmenden Einschränkungen seiner Forschungs- und Publikationsfreiheit bei dem renommierten Unternehmen. Er betonte die Notwendigkeit einer unabhängigen Stimme in KI-Politikdiskussionen, frei von Branchenvorurteilen und Interessenkonflikten. Nachdem er die Führung von OpenAI bei den internen Vorbereitungen beraten hatte, glaubt er, nun auch von außerhalb der Organisation einen größeren Einfluss auf die globale KI-Governance nehmen zu können.

Die Abgänge spiegeln auch eine tiefere kulturelle Kluft innerhalb von OpenAI wider. Viele Forscher kamen, um die KI-Forschung voranzutreiben, und finden sich nun in einem zunehmend produktorientierten Umfeld wieder. Die interne Ressourcenverteilung ist zu einem Streitpunkt geworden – Berichten zufolge wurde Leikes Team vor seiner Auflösung Rechenleistung für Sicherheitsforschung verweigert.

OpenAI wurde in den letzten Monaten zu seinen Plänen für die Entwicklung künstlicher Intelligenz und seiner Bedeutung für die Sicherheit befragt. Obwohl ChatGPT als gemeinnützige Organisation gegründet wurde, die sich der Erforschung sicherer künstlicher Intelligenz widmet, führte der Erfolg von ChatGPT zu erheblichen Investitionen und dem Druck, die neue Technologie gewinnbringend zu nutzen.

Quelle: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm