Facebooks Mutterkonzern führt KI-Modell ein, das andere KI-Modelle überwacht

Die neu veröffentlichten KI-Modelle verfügen über ein Tool namens „Self-Learning Evaluator“, mit dem die Leistung anderer KI-Modelle getestet werden kann. Dieses Tool verspricht insbesondere, den menschlichen Einsatz bei der Entwicklung künstlicher Intelligenz dank übermenschlicher Intelligenz zu reduzieren.

Die Veröffentlichung erfolgt, nachdem Meta die App bereits im August in einem Bericht vorgestellt und detailliert beschrieben hat, wie das Tool auf derselben „Gedankenketten“-Technik basiert, die auch bei den neu veröffentlichten 1-Modellen von OpenAI zum Einsatz kommt, um zuverlässige Urteile über die Reaktionen der Modelle zu treffen.

Meta veröffentlicht ein neues KI-Modell, das die menschliche Beteiligung an der KI-Entwicklung reduzieren könnte.

Bei dieser Technik werden komplexe Probleme in kleinere logische Schritte zerlegt, wodurch die Genauigkeit der Antworten auf schwierige Probleme in Fächern wie Naturwissenschaften , Codierung und Mathematik verbessert wird.

Die Metaforscher verwendeten ausschließlich KI-generierte Daten, um das Bewertungsmodell zu trainieren, und eliminierten in dieser Phase die menschliche Eingabe.

Die Fähigkeit, KI zur zuverlässigen Bewertung von KI zu verwenden, eröffnet einen gangbaren Weg zur Entwicklung autonomer KI-Agenten, die aus ihren eigenen Fehlern lernen können, erklärten zwei hinter dem Projekt stehende Meta-Forscher gegenüber Reuters.

Viele im KI-Bereich stellen sich solche Agenten als digitale Assistenten vor, die intelligent genug sind, um eine Vielzahl von Aufgaben ohne menschliches Eingreifen auszuführen.

Meta sieht sich mehreren Klagen aus US-Bundesstaaten gegenüber, die dem Unternehmen vorwerfen, psychische Gesundheitsprobleme bei Teenagern zu verursachen, indem es seine Facebook- und Instagram-Plattformen süchtig machend macht.

Die US-Bezirksrichterin Yvonne Gonzalez Rogers in Oakland lehnte Metas Antrag ab, die von den Bundesstaaten in zwei getrennten, im letzten Jahr eingereichten Klagen erhobenen Klagen abzuweisen. An einer waren über 30 Bundesstaaten beteiligt, darunter Kalifornien und New York, an der anderen Florida.

Selbstverbessernde Modelle könnten den heute üblichen kostspieligen und ineffizienten Prozess des Human Feedback Reinforcement Learning überflüssig machen, der die Eingabe menschlicher Kommentatoren mit Fachkenntnissen erfordert, um genaue Daten einzufügen und Antworten auf komplexe mathematische und schriftliche Fragen zu überprüfen.

„Wir hoffen, dass KI mit zunehmender Übermenschlichkeit ihre Arbeit immer besser kontrollieren kann, sodass sie tatsächlich besser ist als ein Mensch. Die Idee des Selbstlernens und der Fähigkeit zur Selbstbewertung ist von grundlegender Bedeutung für die Idee, übermenschliche KI-Niveaus zu erreichen“, sagte Jason Weston, einer der Forscher.

Auch andere Unternehmen wie Google und Anthropic haben Forschungsergebnisse zum Konzept von RLAIF (Feedback-Based Reinforcement Learning in AI) veröffentlicht. Im Gegensatz zu Meta geben diese Unternehmen ihre Modelle jedoch in der Regel nicht öffentlich frei.

Zu den weiteren KI-Tools, die Meta am Freitag veröffentlichte, gehören ein Update des Bilderkennungsmodells Segment Anything des Unternehmens, ein Tool zur Beschleunigung der LLM-Antwortgenerierungszeiten und ein Datensatz, der zur Unterstützungder Entdeckung neuer anorganischer Materialien verwendet werden kann.

Quelle: https://www.baogiaothong.vn/cong-ty-me-facebook-ra-mat-mo-hinh-ai-giam-sat-mo-hinh-ai-khac-192241019113020535.htm