Meta ber om ursäkt för AI-fel som ritade "svart hund"

I mitten av december började Meta integrera en chatbot med artificiell intelligens som heter Meta AI i Messenger-applikationen i Vietnam och släppte den gratis för alla användare. Verktyget använder språkmodellen Llama 3.2, stöder vietnamesiska, möjliggör informationssökning, bildskapande och chatt.

Inte långt efter upptäckte många användare i Vietnam att Meta AI hade ett allvarligt fel i sin bildskapande. Mer specifikt, när man angav sökordet "svart hund", returnerade chatboten ett resultat av en mörkhyad man eller pojke med lockigt hår. Om man angav sökordet på vietnamesiska som "svart hundbild", returnerade Meta AI också liknande resultat.

Meta-AI som ritar färgade människor medan kommandot ber om annat innehåll är ett allvarligt problem

Den 31 december uttalade sig Metas representant i Vietnam officiellt om händelsen. Företaget bekräftade ovannämnda problem och meddelade att de hade åtgärdat det. Samtidigt bad Meta Vietnam om ursäkt för händelsen och sa att detta problem kan uppstå med andra befintliga generativa AI-system.

"Vi ber om ursäkt för detta fel. Meta bygger in säkerhetsåtgärder i våra funktioner och AI-modeller för att ge en säkrare och trevligare upplevelse för alla. Men liksom andra generativa AI-system kan den här modellen returnera felaktigt eller stötande innehåll, så vi uppmuntrar användare att använda dessa verktyg ansvarsfullt", sa företagets representant.

Efter en tids erfarenhet är Meta AI mycket uppskattat av många för sin förmåga att använda språk för att svara ganska smidigt. Bildskapandefunktionen ger också god kvalitet jämfört med en modell som släppts gratis för användare. En del av anledningen kan vara att Meta använder innehåll som publiceras på Facebook som indata i AI-träningsprocessen, vilket hjälper detta verktyg att kunna uttrycka och utföra naturliga kommandon.

Incidenter som rasism eller reaktioner som inte uppfyller de standarder som satts för AI är dock fortfarande svåra att undvika. Meta säger att de testar sin AI med experter inom artificiell intelligens genom "Red Teaming"-tester för att identifiera oavsiktliga användningsområden, vilka de sedan åtgärdar genom en kontinuerlig förbättringsprocess.

Källa: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm