OpenAI-Mitbegründer enthüllt Super-KI

Andrej Karpathy, Mitbegründer von OpenAI. Foto: Dwarkesh Patel .

Während viele in der Tech-Branche glauben, dass künstliche Intelligenz (AGI) kurz vor der Verwirklichung steht, vertritt Andrej Karpathy, ein renommierter Wissenschaftler , der als Chief AI Officer bei Tesla und Mitbegründer von OpenAI tätig war, eine andere Ansicht. Er glaubt, dass der Weg zur AGI noch lang ist und die Welt mindestens ein weiteres Jahrzehnt brauchen wird, um die grundlegenden Herausforderungen zu meistern.

„Die Probleme sind lösbar, auch wenn sie im Moment schwierig sind. Ich denke, es wird etwa zehn Jahre dauern, bis alle derzeitigen Einschränkungen überwunden sind“, sagte Karpathy kürzlich in einem Gespräch.

Wertvolle Lektion

Laut Karpathy hat die rasante Entwicklung großer Sprachmodelle (LLM) in den letzten Jahren viele zu der Annahme veranlasst, dass die Ära der „KI-Agenten“, also Systeme mit autonomen Fähigkeiten, angebrochen sei. Der ehemalige KI-Chef von Tesla widerspricht dieser Ansicht jedoch. Er glaubt, dass 2025 nicht „das Jahr des KI-Agenten“ sei.

Er erklärt, dass Tools wie Claude und Codex das Potenzial haben, Menschen bei vielen Aufgaben zu unterstützen, sie aber noch weit davon entfernt sind, als „digitale Kollegen“ zu gelten.

„Derzeit sind KI-Agenten nicht intelligent genug, sie nutzen Computer nicht auf natürliche Weise und haben nicht die Fähigkeit, kontinuierlich zu lernen. Man kann ihnen nichts sagen und erwarten, dass sie es sich merken. Ihnen fehlt die Kognition, was die Modelle daran hindert, wirklich zu funktionieren“, sagte Karpathy.

Karpathy war Teslas KI-Direktor. Foto: Teslarati .

In seiner 15-jährigen Karriere in der KI hat Karpathy nach eigenen Angaben viele Wendepunkte erlebt, die die gesamte Branche verändert haben. Er studierte und arbeitete mit Geoffrey Hinton, dem Vater der neuronalen Netze, an der Universität Toronto, als Deep Learning noch ein relativ unbekanntes Forschungsgebiet war. Der Erfolg von AlexNet im Jahr 2012 läutete eine neue Ära der KI ein und machte neuronale Netze zur Grundlage vieler zukünftiger Anwendungen.

Nach der Welle des Deep Learning konzentrierte sich die KI-Branche allmählich auf die Entwicklung von Agenten, die ihre Umgebung beobachten, darauf reagieren und daraus lernen konnten. Eines der ersten Experimente war Deep Reinforcement Learning an einem Atari-Spiel um 2013. Obwohl diese Entwicklung damals als bahnbrechend galt, war sie seiner Meinung nach „ein Fehler des Timings“.

„Es ist verständlich, dass Menschen in einer Spielumgebung experimentieren möchten, in der Simulationen und Messungen leicht möglich sind. Aber das spiegelt nicht die reale Welt wider. Wenn man die KI einfach auf einer Tastatur tippen, mit der Maus klicken und auf eine Belohnung warten lässt, lernt sie nichts Wesentliches“, sagte er.

Nicht der richtige Zeitpunkt

Während seiner Zeit bei OpenAI arbeitete Karpathy am Projekt Universe, einem Versuch, einen maus- und tastaturgesteuerten Agenten zu entwickeln, der reale Aufgaben ausführen kann. Er räumt jedoch ein, dass das Projekt „zu früh“ kam.

„Wir verfügen noch nicht über die Leistungsfähigkeit neuronaler Netzwerke und haben nicht die große Sprachmodellierungsplattform, die wir heute haben“, sagte Karpathy.

Karpathy glaubt, dass die Entwicklung von AGI ein Jahrzehnt dauern wird. Foto: Vidhya .

Der Wissenschaftler fügte hinzu, dass die Modelle für die Entwicklung eines wirklich intelligenten Agenten über eine solide Grundlage in Sprachrepräsentation und Kognition verfügen müssten. Karpathy verglich das Vortraining mit Internetdaten mit einer Art „schlechter Evolution“. Dieser Prozess helfe der KI jedoch, ein enormes Wissen und grundlegende Denkfähigkeiten anzusammeln.

Er warnt jedoch davor, dass KI weniger kreativ werden könnte, wenn man sich zu sehr auf vorhandenes Wissen verlässt. „Vielleicht müssen wir einen Weg finden, einen Teil des Wissens zu entfernen und das übrig zu lassen, was wir den kognitiven Kern nennen – den Teil, der die Fähigkeit zum Denken, Problemlösen und Strategisieren repräsentiert“, sagte Karpathy.

KI befindet sich demnach in einer Übergangsphase. Die Kombination aus der Leistungsfähigkeit von Sprachmodellen und der Handlungsfähigkeit von Agenten wird ein neues Kapitel für die Technologie aufschlagen. Dieser Weg, so Karpathy, sei jedoch nicht in wenigen Jahren zu bewältigen.

Quelle: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html