Meta, 'siyah köpek' çizimindeki yapay zeka hatası için özür diledi

Aralık ayı ortasında Meta, Vietnam'daki Messenger uygulamasına Meta AI adlı yapay zeka sohbet robotunu entegre etmeye başladı ve tüm kullanıcılara ücretsiz olarak sundu. Bu araç, Llama 3.2 dil modelini kullanıyor, Vietnamca'yı destekliyor, bilgi arama, resim oluşturma ve sohbet etme olanağı sağlıyor.

Kısa süre sonra, Vietnam'daki birçok kullanıcı Meta AI'nın görsel oluşturmada ciddi bir hata yaptığını keşfetti. Özellikle "siyah köpek" anahtar kelimesi girildiğinde, chatbot koyu tenli, kıvırcık saçlı bir erkek veya çocuk sonucu döndürüyordu. Vietnamca "siyah köpek görseli" anahtar kelimesi girildiğinde de Meta AI benzer sonuçlar döndürüyordu.

Meta AI'nın farklı içerikler isterken renkli insanları çizmesi ciddi bir sorundur

31 Aralık'ta, Meta'nın Vietnam temsilcisi olay hakkında resmi bir açıklama yaptı. Şirket, yukarıda belirtilen sorunu doğruladı ve düzelttiğini duyurdu. Bununla birlikte, Meta Vietnam olay için özür diledi ve bu sorunun mevcut diğer yapay zeka sistemlerinde de yaşanabileceğini belirtti.

Şirket temsilcisi, "Bu hatadan dolayı özür dileriz. Meta, herkes için daha güvenli ve keyifli bir deneyim sunmak amacıyla özelliklerimize ve yapay zeka modellerimize güvenlik önlemleri entegre ediyor. Ancak, diğer üretken yapay zeka sistemleri gibi, bu model de yanlış veya rahatsız edici içerikler döndürebilir, bu nedenle kullanıcıları bu araçları sorumlu bir şekilde kullanmaya teşvik ediyoruz," dedi.

Meta AI, uzun bir deneyimden sonra, dili oldukça akıcı bir şekilde kullanabilme becerisiyle birçok kişi tarafından oldukça beğenildi. Görüntü oluşturma özelliği de kullanıcılara ücretsiz olarak sunulan bir modele kıyasla iyi bir kalite sunuyor. Bunun bir nedeni, Meta'nın Facebook'ta paylaşılan içeriği yapay zeka eğitim sürecinde girdi verisi olarak kullanması ve bu sayede aracın doğal komutları ifade edip çalıştırabilmesine yardımcı olması olabilir.

Ancak ırkçılık veya yapay zeka için belirlenen standartlara uymayan tepkiler gibi olaylardan kaçınmak hâlâ zor. Meta, yapay zeka alanında uzmanlarla birlikte "Kırmızı Takım" testleri aracılığıyla yapay zekasını test ederek istenmeyen kullanımları tespit ettiğini ve ardından sürekli bir iyileştirme süreciyle bunları ele aldığını belirtiyor.

Kaynak: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm