Meta biedt excuses aan voor AI-fout bij het tekenen van 'zwarte hond'

Medio december begon Meta met de integratie van een chatbot met kunstmatige intelligentie, genaamd Meta AI, in de Messenger-applicatie in Vietnam en bracht deze gratis uit voor alle gebruikers. Deze tool maakt gebruik van het Llama 3.2-taalmodel, ondersteunt Vietnamees, maakt het zoeken naar informatie, het maken van afbeeldingen en chatten mogelijk.

Niet lang daarna ontdekten veel gebruikers in Vietnam dat Meta AI een ernstige fout had gemaakt bij het maken van afbeeldingen. Bij het invoeren van het trefwoord "zwarte hond" gaf de chatbot een resultaat van een donkere man of jongen met krullend haar. Bij het invoeren van het trefwoord "zwarte hond afbeelding" in het Vietnamees, gaf Meta AI vergelijkbare resultaten.

Meta AI tekent mensen van kleur terwijl de opdracht om andere inhoud vraagt, wat een serieus probleem is

Op 31 december sprak de vertegenwoordiger van Meta in Vietnam zich officieel uit over het incident. Het bedrijf bevestigde het bovengenoemde probleem en kondigde aan dat het was opgelost. Meta Vietnam verontschuldigde zich daarnaast voor het incident en zei dat dit probleem zich ook bij andere bestaande generatieve AI-systemen zou kunnen voordoen.

"Onze excuses voor deze fout. Meta bouwt beveiligingen in onze functies en AI-modellen in om iedereen een veiligere en prettigere ervaring te bieden. Net als andere generatieve AI-systemen kan dit model echter onjuiste of aanstootgevende content retourneren. Daarom raden we gebruikers aan deze tools verantwoord te gebruiken", aldus de vertegenwoordiger van het bedrijf.

Na een tijdje ervaring te hebben opgedaan, wordt Meta AI door veel mensen zeer gewaardeerd vanwege de mogelijkheid om taal te gebruiken en soepel te reageren. De functie voor het maken van afbeeldingen biedt ook een goede kwaliteit in vergelijking met een model dat gratis beschikbaar is voor gebruikers. Een deel van de reden hiervoor kan zijn dat Meta de content die op Facebook wordt geplaatst, gebruikt als invoergegevens in het AI-trainingsproces, waardoor deze tool natuurlijke commando's kan uitdrukken en uitvoeren.

Incidenten zoals racisme of reacties die niet voldoen aan de normen voor AI zijn echter nog steeds moeilijk te vermijden. Meta zegt dat het zijn AI test met experts op het gebied van kunstmatige intelligentie door middel van "Red Teaming"-tests om onbedoelde toepassingen te identificeren, die het vervolgens aanpakt via een continu verbeteringsproces.

Bron: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm