Der KI-Experte verließ OpenAI, das Unternehmen, das er mitgegründet hatte, Anfang dieses Jahres, um sein eigenes KI-Labor namens Safe Superintelligence Inc. zu gründen.

„Das Vortraining, wie wir es kennen, wird aufhören zu existieren“, sagte Sutskever auf einer Konferenz über neuronale Informationsverarbeitung.

Der Begriff „Vortraining“ bezeichnet die frühe Phase der Entwicklung von KI-Modellen, in der ein großes Sprachmodell Muster aus großen Mengen unbeschrifteter Daten lernt, oft aus Texten aus dem Internet, Büchern und anderen Quellen.

Erschöpfung der Datenressourcen

Sutskever sagte, dass er zwar glaube, dass die aktuellen Daten die KI-Entwicklung noch beschleunigen könnten, der Branche aber die neuen Ressourcen zum Trainieren von Modellen ausgingen.

Dies, so sagt er, werde letztendlich zu einer Veränderung der Art und Weise führen, wie KI-Modelle heute trainiert werden.

8da2491217a6b424c37773100bec59ff.jpeg
KI-Modelle werden lernen, sich anhand begrenzter Datenmengen selbst zu trainieren. Foto: Yahoo Tech

Dies ist auch die Situation, die sich bei fossilen Rohstoffen ereignet hat und ereignet, wenn Ölfelder eine begrenzte Ressource darstellen, oder wie das Internet nur eine endliche Menge an von Menschen geschaffenen Inhalten enthält.

„Wir haben den Höhepunkt der Datenflut erreicht, und dieser wird in Zukunft nicht mehr erreicht sein“, sagte Sutskever. „Wir müssen mit den verfügbaren Daten arbeiten, mit den Daten aus einer aktuellen Internetquelle.“

Sutskever prognostiziert, dass Modelle der nächsten Generation „wirklich agentenähnlich“ sein werden. „Agent“ ist ein gängiger Begriff im Bereich der KI und wird im Allgemeinen als autonomes KI-System verstanden, das Aufgaben ausführt, Entscheidungen trifft und selbstständig mit Software interagiert.

Zukünftige KI-Systeme werden laut Sutskever nicht nur „agentenähnlich“ sein, sondern auch logisch denken können. Anders als die heutige KI, die primär Muster auf Basis zuvor gelernter Modelle erkennt, werden zukünftige Systeme Probleme schrittweise und damit ähnlich wie beim Denken lösen können. „Je mehr logisches Denken das System an den Tag legt, desto unvorhersehbarer wird es“, so Sutskever.

KI kann ihre eigene Methode entwickeln, sich selbst zu trainieren.

Der Experte verglich die Entwicklung von KI-Systemen auch mit der Evolutionsbiologie und zitierte Forschungsergebnisse, die den Zusammenhang zwischen Gehirn- und Körpergröße bei Tieren aufzeigen.

Während beispielsweise die meisten Säugetiere einem bestimmten proportionalen Muster folgen, weisen Menschen deutlich andere Gehirn- und Körperproportionen auf.

Und irgendwann, wenn die Evolution neue Wachstumsraten für das Gehirn unserer Vorfahren findet, wird die KI vielleicht auch neue Wege finden, um über die derzeitigen Trainingsmethoden hinaus zu skalieren.

(Laut TheVerge, Yahoo Tech)

Elon Musk enthüllte die „astronomischen“ Gehälter von xAI und OpenAI und warf OpenAI vor, zu viel an die Mitarbeiter zu zahlen. Dies sei wettbewerbswidrig. Allerdings zahlt auch Musks Startup xAI deutlich überdurchschnittliche Gehälter.