OpenAI hat große Schwierigkeiten bei der Entwicklung von ChatGPT-5

Laut TechSpot steht OpenAI bei der Entwicklung von ChatGPT-5, der nächsten Generation großer Sprachmodelle, vor zahlreichen Herausforderungen. ChatGPT-5, Codename „Project Orion“, befindet sich seit 18 Monaten in der Entwicklung, hat jedoch keine nennenswerten Fortschritte erzielt.

Obwohl OpenAI mindestens zwei erste Trainingsphasen abgeschlossen hat, waren die Ergebnisse nicht so gut wie erwartet. Einer der Hauptgründe dafür ist, dass die Trainingsdaten nicht vielfältig genug und qualitativ unzureichend sind. Die Nutzung von Daten aus dem öffentlichen Internet stößt an ihre Grenzen, sodass das Unternehmen nach Alternativen sucht, beispielsweise nach der Erstellung synthetischer Daten oder der Beauftragung von Mitarbeitern zur manuellen Datenerstellung.

GPT-5 benötigt 133-mal mehr GPUs als GPT-4, was für OpenAI ein großes Problem darstellen wird

Von Menschen generierte Daten sind zwar qualitativ hochwertiger, bringen aber auch Zeit- und Kostenprobleme mit sich. Um beispielsweise eine Milliarde Datentoken (von einem KI-Modell verarbeitete Texteinheiten) zu generieren, bräuchte es etwa 1.000 Menschen, die monatelang täglich 5.000 Wörter schreiben. Die Verwendung synthetischer Daten – generiert von aktuellen KI-Modellen – birgt Qualitätsrisiken und erhöht das Risiko einer ineffizienten Datenschleife.

Neben dem Datenproblem stieß das Training von ChatGPT-5 auch auf technische Herausforderungen. Die ersten Tests verliefen langsamer als erwartet, was bedeutet, dass das Training im großen Maßstab länger dauern und die Kosten erhöhen wird. Dies wirft Fragen zur Machbarkeit der Entwicklung eines Modells auf, das GPT-4 übertrifft, dessen Entwicklung Milliarden von Dollar kostete.

Darüber hinaus haben interne Unruhen bei OpenAI den Projektfortschritt erheblich beeinträchtigt. CEO Sam Altman wurde Ende 2023 vorübergehend seines Amtes enthoben, was in diesem Jahr zum Ausscheiden von mehr als 20 Schlüsselpersonen führte. Altman gab zu, dass die Veröffentlichung der vorherigen Version von GPT-4o der Hauptgrund für die Verzögerung von ChatGPT-5 war.

Die Verzögerungen und steigenden Kosten haben OpenAI unter starken Druck von Investoren gesetzt, insbesondere von Microsoft, dem größten Partner des Unternehmens. Da bereits Milliarden von Dollar in die KI-Branche geflossen sind, muss OpenAI beweisen, dass ChatGPT-5 eine deutliche Verbesserung gegenüber seinem Vorgänger darstellt. Da Trainingsdaten jedoch immer knapper werden, wird dieses Ziel zunehmend schwieriger.

Die Zukunft von ChatGPT-5 ist derzeit noch unklar. OpenAI muss sich den aktuellen Herausforderungen stellen und Wege finden, Ressourcen zu optimieren, um im Wettlauf um KI-Technologie weiterhin relevant zu bleiben.

Quelle: https://thanhnien.vn/openai-doi-mat-kho-khan-lon-khi-phat-trien-chatgpt-5-1852412232345532.htm