Chatbot s umělou inteligencí miliardáře Elona Muska vyvolal kontroverzi za chválu Hitlera.

VHO - Společnost xAI miliardáře Elona Muska byla nucena smazat mnoho urážlivých příspěvků poté, co chatbot Grok pronesl antisemitská prohlášení, chválil Adolfa Hitlera a používal extrémní jazyk při odpovědích uživatelům na platformě X.

Chatbot Grok nyní přitahuje pozornost po sérii kontroverzních reakcí.

Podle deníku The Guardian se chatbot v některých nedávných reakcích dopustil kontroverzních komentářů týkajících se osoby s běžným příjmením v židovské komunitě a použil jazyk, který byl považován za urážlivý a neslučitelný s normami komunity.

Některé komentáře měly dokonce negativní konotace , sám se označoval za „MechaHitlera“ (kombinace slov nacistického šéfa a robota).

Výše uvedená prohlášení rychle vyvolala vlnu protestů v online komunitě a vyvolala otázky ohledně úrovně kontroly nad modely umělé inteligence, zejména pokud jsou integrovány do platformy s velkým počtem uživatelů, jako je X.

Na základě zpětné vazby od uživatelů společnost xAI příspěvky smazala a potvrdila, že upravuje svůj systém. „Jsme si vědomi nedávných příspěvků společnosti Grok a aktivně odstraňujeme nevhodný obsah. Od odhalení incidentu zavedla společnost xAI kontrolní mechanismy, které mají zabránit Grokovi v šíření nenávistných projevů na platformě X,“ uvedl zástupce společnosti.

Také podle xAI byl model Grok trénován s cílem „nalezení pravdy“ a společnost se spoléhá na zpětnou vazbu od komunity, aby zlepšila proces školení.

Není to však poprvé, co chatbot Grok vyvolal kontroverzi. V červnu nástroj opakovaně použil frázi „jihoafrická genocida“.

Podle serveru The Verge mohly k incidentu nepřímo vést nedávné změny v provozu společnosti Grok. V aktualizaci na platformě pro hostování zdrojového kódu GitHub vývojářská společnost upravila algoritmus chatbota, aby se „vyhnula opakování zkreslených informací“ a „podporovala nezávislejší reakce“.

Miliardář Elon Musk, zakladatel xAI a majitel X, se na platformě kdysi podělil o to, že se Grok výrazně zlepšil a dokáže „reagovat pružněji“. Incidenty z reálného života však ukazují, že jazykové modely umělé inteligence mohou stále dělat chyby, zejména bez správné vrstvy moderování.

Grok v současné době používají miliony uživatelů po celém světě a je součástí ambice vyvíjet aplikace, které integrují umělou inteligenci se sociálními sítěmi, vyhledávači a dalšími službami pro interakci s uživateli.

Zdroj: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html