Laut einem leitenden Forscher bei OpenAI ist die Welt noch nicht bereit für eine allgemeine künstliche Intelligenz (AGI), also für den Punkt, an dem künstliche Intelligenz so intelligent ist wie das menschliche Gehirn.
Stellt allgemeine künstliche Intelligenz ein Risiko dar?
Seit Jahren spekulieren Forscher über die Entstehung einer künstlichen allgemeinen Intelligenz (AGI), bei der künstliche Systeme ein breites Aufgabenspektrum ebenso gut wie Menschen bewältigen können. Viele sehen in ihrer Entwicklung eine existenzielle Bedrohung, da sie Computern ermöglichen könnte, auf für Menschen unvorstellbare Weise zu agieren.
Laut Herrn Miles Brindage ist die Welt noch nicht bereit für die Zeit der künstlichen allgemeinen Intelligenz (AGI).
Nun räumt der Mann, der den ChatGPT-Entwickler OpenAI auf AGI vorbereiten sollte, ein, dass weder die Welt noch das Unternehmen selbst für den nächsten Schritt „bereit“ sind. Miles Brundage war als „Senior Advisor für AGI-Bereitschaft“ bei OpenAI tätig, gab aber diese Woche seinen Rücktritt bekannt, als das Unternehmen die entsprechende Gruppe auflöste.
„Weder OpenAI noch irgendein anderes Pionierlabor ist bereit für AGI, und die Welt auch nicht. Um es klarzustellen: Ich glaube nicht, dass dies eine kontroverse Aussage innerhalb der OpenAI-Führung ist, sondern vielmehr eine Frage, ob das Unternehmen und die Welt auf dem richtigen Weg sind, um zum richtigen Zeitpunkt bereit zu sein“, sagte Brundage, der sechs Jahre lang an der Gestaltung der KI-Sicherheitsinitiativen des Unternehmens mitgewirkt hat.
Brundages Ausscheiden ist der jüngste in einer Reihe namhafter Abgänge aus den Sicherheitsteams von OpenAI. Jan Leike, ein angesehener Forscher, verließ das Unternehmen mit der Begründung, dass „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen“. Auch Mitgründer Ilya Sutskever verließ OpenAI, um sein eigenes KI-Startup zu gründen, das sich auf die Entwicklung sicherer AGI konzentriert.
Brundages Auflösung seiner Gruppe „AGI Readiness“ erfolgt nur wenige Monate, nachdem das Unternehmen seine Gruppe „Superalignment“ aufgelöst hat, die sich der Minderung langfristiger KI-Risiken widmete. Dies offenbart Spannungen zwischen der ursprünglichen Mission von OpenAI und seinen kommerziellen Ambitionen.
Der Profitdruck treibt OpenAI vom sicheren Weg ab.
OpenAI steht Berichten zufolge unter Druck, innerhalb von zwei Jahren von einer gemeinnützigen zu einer gewinnorientierten Organisation zu werden – andernfalls droht der Verlust der Finanzierung aus der jüngsten Investitionsrunde über 6,6 Milliarden US-Dollar. Diese Hinwendung zur Kommerzialisierung bereitet Brundage schon lange Sorgen; er äußerte bereits 2019 Bedenken, als OpenAI seine gewinnorientierte Abteilung gründete.
OpenAI-CEO Sam Altman leidet unter dem Druck, unter dem das Unternehmen steht, Gewinne zu erzielen.
Brundage begründete seinen Weggang mit den zunehmenden Einschränkungen seiner Forschungs- und Publikationsfreiheit bei dem renommierten Unternehmen. Er betonte die Notwendigkeit einer unabhängigen Stimme in KI-Politikdiskussionen, frei von Brancheneinflüssen und Interessenkonflikten. Nachdem er die Führungsebene von OpenAI bei internen Vorbereitungen beraten hatte, ist er überzeugt, nun von außerhalb des Unternehmens einen größeren Einfluss auf die globale KI-Governance ausüben zu können.
Die Abgänge spiegeln auch eine tiefere kulturelle Spaltung innerhalb von OpenAI wider. Viele Forscher kamen, um die KI-Forschung voranzutreiben, und finden sich nun in einem zunehmend produktorientierten Umfeld wieder. Die interne Ressourcenverteilung hat sich zu einem Streitpunkt entwickelt – Berichten zufolge wurde Leikes Team vor seiner Auflösung die Rechenleistung für Sicherheitsforschung verweigert.
OpenAI sah sich in den letzten Monaten Fragen zu seinen Plänen für die Entwicklung künstlicher Intelligenz und seinem Sicherheitsbewusstsein ausgesetzt. Obwohl die Organisation als gemeinnützige Einrichtung zur Erforschung sicherer künstlicher Intelligenz gegründet wurde, hat der Erfolg von ChatGPT erhebliche Investitionen und Druck zur Folge, die neue Technologie gewinnbringend einzusetzen.
Quelle: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Kommentar (0)