Meta entschuldigt sich für KI-Fehler beim Zeichnen von „schwarzem Hund“

Mitte Dezember begann Meta, einen Chatbot mit künstlicher Intelligenz namens Meta AI in die Messenger-App in Vietnam zu integrieren und stellte ihn allen Nutzern kostenlos zur Verfügung. Dieses Tool verwendet das Sprachmodell Llama 3.2, unterstützt Vietnamesisch und ermöglicht die Informationssuche, die Erstellung von Bildern und das Chatten.

Kurz darauf stellten viele Nutzer in Vietnam fest, dass Meta AI einen schwerwiegenden Fehler bei der Bilderzeugung hatte. Bei der Eingabe des Schlüsselworts „schwarzer Hund“ lieferte der Chatbot einen dunkelhäutigen Mann oder Jungen mit lockigem Haar. Auch bei der Eingabe des Schlüsselworts auf Vietnamesisch als „Bild eines schwarzen Hundes“ lieferte Meta AI ähnliche Ergebnisse.

Das Zeichnen von farbigen Menschen durch Meta-KI, während die Eingabeaufforderung andere Inhalte erfordert, ist ein ernstes Problem

Am 31. Dezember äußerte sich der Vertreter von Meta in Vietnam offiziell zu dem Vorfall. Das Unternehmen bestätigte das oben genannte Problem und gab bekannt, dass es behoben worden sei. Meta Vietnam entschuldigte sich zudem für den Vorfall und erklärte, dass dieses Problem auch bei anderen bestehenden generativen KI-Systemen auftreten könne.

„Wir entschuldigen uns für diesen Fehler. Meta integriert Sicherheitsvorkehrungen in unsere Funktionen und KI-Modelle, um allen ein sichereres und angenehmeres Erlebnis zu bieten. Wie andere generative KI-Systeme kann dieses Modell jedoch ungenaue oder anstößige Inhalte zurückgeben. Wir empfehlen daher den Nutzern, diese Tools verantwortungsvoll zu nutzen“, sagte der Unternehmensvertreter.

Nach einiger Erfahrung wird Meta AI von vielen Nutzern für seine Fähigkeit geschätzt, mithilfe von Sprache reibungslos zu reagieren. Auch die Bilderzeugungsfunktion bietet im Vergleich zu einem kostenlos verfügbaren Modell eine gute Qualität. Ein Grund dafür könnte sein, dass Meta die auf Facebook veröffentlichten Inhalte als Eingabedaten für den KI-Trainingsprozess verwendet. Dadurch kann das Tool Befehle auf natürliche Weise ausdrücken und ausführen.

Dennoch lassen sich Vorfälle wie Rassismus oder Reaktionen, die nicht den Standards für KI entsprechen, nur schwer vermeiden. Meta testet seine KI nach eigenen Angaben mit Experten auf dem Gebiet der künstlichen Intelligenz im Rahmen von „Red Teaming“-Tests, um unbeabsichtigte Anwendungen zu identifizieren und diese dann im Rahmen eines kontinuierlichen Verbesserungsprozesses zu beheben.

Quelle: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm