Meta se omlouvá za chybu umělé inteligence při kreslení „černého psa“

V polovině prosince začala společnost Meta ve Vietnamu integrovat chatbota s umělou inteligencí s názvem Meta AI do aplikace Messenger a zpřístupnila ho všem uživatelům zdarma. Tento nástroj využívá jazykový model Llama 3.2, podporuje vietnamštinu, umožňuje vyhledávání informací, vytváření obrázků a chatování.

Nedlouho poté mnoho uživatelů ve Vietnamu zjistilo, že Meta AI má při vytváření obrázků závažnou chybu. Konkrétně při zadání klíčového slova „černý pes“ chatbot vracel výsledek s tmavým mužem nebo chlapcem s kudrnatými vlasy. Pokud bylo klíčové slovo ve vietnamštině zadáno jako „obrázek černého psa“, Meta AI vracela podobné výsledky.

Meta AI kreslí barevné lidi, zatímco příkaz požaduje jiný obsah, je vážný problém.

Dne 31. prosince se k incidentu oficiálně vyjádřil zástupce společnosti Meta ve Vietnamu. Společnost výše uvedený problém potvrdila a oznámila, že jej opravila. Společnost Meta Vietnam se zároveň za incident omluvila a uvedla, že k tomuto problému může docházet i u jiných stávajících systémů generativní umělé inteligence.

„Omlouváme se za tuto chybu. Meta zabudovává do našich funkcí a modelů umělé inteligence ochranná opatření, aby poskytla bezpečnější a příjemnější zážitek pro všechny. Stejně jako jiné generativní systémy umělé inteligence však může i tento model vracet nepřesný nebo urážlivý obsah, proto uživatele vyzýváme, aby tyto nástroje používali zodpovědně,“ uvedl zástupce společnosti.

Po určité době zkušeností si Meta AI získala od mnoha lidí vysoké uznání pro svou schopnost používat jazyk k poměrně plynulému reagování. Funkce vytváření obrázků také poskytuje dobrou kvalitu ve srovnání s modelem, který byl uživatelům k dispozici zdarma. Částečně to může být proto, že Meta používá obsah zveřejněný na Facebooku jako vstupní data v procesu trénování AI, což tomuto nástroji pomáhá vyjadřovat a provádět přirozené příkazy.

Incidentům, jako je rasismus nebo reakce, které neodpovídají standardům stanoveným pro umělou inteligenci, je však stále obtížné se vyhnout. Meta uvádí, že svou umělou inteligenci testuje s odborníky v oblasti umělé inteligence prostřednictvím testů „Red Teaming“, aby identifikovala nezamýšlené použití, které následně řeší procesem neustálého zlepšování.

Zdroj: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm