Diese Einschätzung stammt aus einem kürzlich durchgesickerten internen Memo des Suchmaschinenriesen. Im selben Dokument äußerten Google-Führungskräfte tiefe Besorgnis über die Möglichkeit, im laufenden Wettlauf um künstliche Intelligenz zu scheitern.
Ein Google-Vertreter bestätigte später die Echtheit des Dokuments und erklärte, es handele sich lediglich um die Meinung einer Person innerhalb des Unternehmens. Er räumte jedoch ein, dass weder Google noch OpenAI in der Lage seien, dieses Rennen zu gewinnen.
Der Suchmaschinenriese ist der Ansicht, dass die Open-Source-Community führende KI-Unternehmen übertrifft, obwohl deren Produkte einen leichten Qualitätsvorteil haben, aber „die Lücke verringert sich unglaublich schnell“.
Die Kapitalgröße ist nicht der entscheidende Faktor.
Künstliche Intelligenz (KI) sorgt seit Ende 2022 mit dem Start von ChatGPT, einem auf großen Sprachmodellen (LLM) basierenden Chatbot von OpenAI – einem eng mit Microsoft verbundenen Startup – für Aufsehen. Der Erfolg dieses Produkts hat Google und viele andere Technologieunternehmen dazu veranlasst, ebenfalls in den Wettlauf um LLM-Lösungen einzusteigen.
LLM-Modelle werden mithilfe von Billionen aus dem Internet abgerufener Wörter trainiert, um Texte oder Konversationen zu generieren, die der menschlichen Sprache ähneln. Dieser Prozess dauert Monate und kostet zig Millionen Dollar, was Befürchtungen nährt, dass die KI von finanzstarken Technologiekonzernen dominiert werden könnte.
Interne Google-Dokumente legen jedoch nahe, dass diese Annahme fehlerhaft ist. Forscher der Open-Source-Community nutzen kostenlose Online-Ressourcen und erzielen Ergebnisse, die selbst mit den größten proprietären Modellen von heute vergleichbar sind.
Dementsprechend können LLMs durch eine Technik namens Low-Level Adaptation oder LoRa "optimiert" werden, die es ermöglicht, ein bestehendes LLM für eine bestimmte Aufgabe schnell und zu wesentlich geringeren Kosten zu optimieren als ein LLM von Grund auf neu zu trainieren.
Beispielsweise wurde im März LLaMa, ein von Meta – der Muttergesellschaft von Facebook – entwickeltes Modell, online geleakt. Obwohl es mit nur 7 Milliarden Parametern im Vergleich zu Googles größtem LLM mit 540 Milliarden Parametern klein und recht „primitiv“ war, wurde LLaMa schnell verbessert und lieferte bei einigen Aufgaben vergleichbare Ergebnisse wie die ursprüngliche Version von ChatGPT.
Dies könnte einen tiefgreifenden Einfluss auf die Zukunft der KI-Entwicklung haben, da „die Hürden für Training und Tests, die zuvor ein großes Forschungszentrum erforderten, auf nur eine Person, einen Abend und einen leistungsstarken Laptop reduziert wurden.“
Der Kampf zwischen dem Riesen Goliath und dem Hirten David
Ein LLM lässt sich nun für nur 100 US-Dollar innerhalb weniger Stunden optimieren. Dank seines flexiblen, vernetzten und kostengünstigen Modells bietet Open-Source-KI einen entscheidenden Vorteil, den große Unternehmen wie Google nicht nachahmen können. Daher kommt das Dokument zu dem Schluss, dass Google und OpenAI gegenüber diesen Open-Source-Konkurrenten angreifbar sind.
„Ich glaube nicht, dass ich für viele Aufgaben etwas so Leistungsstarkes wie ChatGPT-4 brauche“, sagte Simon Willison, Programmierer und Technologieanalyst, gegenüber NBC. „Die Frage ist nun, wie weit sich Modelle zerlegen lassen und trotzdem noch nützlich sind. Und genau das erforscht die Open-Source-Community sehr schnell.“
Dies deckt sich vollkommen mit der Ansicht vieler Experten, dass die größte Stärke auch die größte Schwäche sein kann, wenn sie richtig genutzt und beobachtet wird, genau wie in der Geschichte des Riesen Goliath, der von dem kleinen Hirtenjungen David mit nichts als einer Steinschleuder besiegt wurde.
Doch nicht jeder wird dieser Ansicht hinsichtlich der Entwicklung von KI zustimmen. Fakt ist, dass proprietäre, kostenpflichtige Software wie Adobe Photoshop oder Microsoft Windows weiterhin existiert, und der Bereich der KI könnte durchaus einen ähnlichen Entwicklungsweg einschlagen.
(Laut Economist, Yahoo Finance)
Quelle






Kommentar (0)