AI Grok 4 odpovídá na citlivé otázky stejně jako miliardář Elon Musk

Během spuštění Grok 4 od xAI 9. července technologický miliardář Elon Musk živě na své platformě sociálních médií X uvedl, že konečným cílem jeho společnosti zabývající se umělou inteligencí je vyvinout „maximálně pravdou hledající umělou inteligenci“.

Ale kde přesně Grok 4 hledá pravdu, když se snaží odpovědět na kontroverzní otázky? Podle několika uživatelů, kteří o tomto jevu psali na sociálních sítích, se zdá, že nejnovější model umělé inteligence xAI odkazuje na příspěvky na sociálních sítích z Muskova účtu X, když odpovídá na otázky týkající se izraelsko-palestinského konfliktu, potratů a imigračních zákonů.

Nejnovější verze chatbota s umělou inteligencí Grok 4, odpovědi z pohledu Elona Muska. Foto: xAI

Grok se také zdá, že odkazuje na Muskovy názory na kontroverzní témata prostřednictvím článků o miliardářském zakladateli a veřejné tváři xAI.

Populární web o technologických novinkách TechCrunch zkusil dotaz několikrát a dostal identické výsledky.

Tato zjištění naznačují, že Grok 4 může být navržen tak, aby při zodpovídání kontroverzních otázek zohledňoval osobní politické názory zakladatele.

Taková funkce by mohla řešit Muskovu přetrvávající frustraci z toho, že Grok je „příliš příčetný“, což dříve připisoval tomu, že se Grok trénoval na internetu.

Grok 4 tìm đến quan điểm về vấn đề người nhập cư từ tài khoản X của người sáng lập. — Grok 4 se o své názory na imigraci obrací na účet X.

Snahy společnosti xAI uklidnit Muskovu frustraci tím, že Grok bude méně politický, se v posledních měsících obrátily proti nim. Musk 4. července oznámil, že společnost xAI aktualizovala systémové pokyny Groka – sadu instrukcí pro chatbota s umělou inteligencí.

O několik dní později automatizovaný účet Grok rozesílal uživatelům antisemitské odpovědi, v některých případech se dokonce identifikoval jako „MechaHitler“. Muskův startup zabývající se umělou inteligencí byl následně nucen omezit účet Grok X, smazat příspěvky a změnit veřejné systémové výzvy, aby se s tímto trapným incidentem vypořádal.

Navržení Groku s ohledem na Muskovy osobní názory je jednoduchý způsob, jak přizpůsobit chatbota s umělou inteligencí politickým názorům jeho zakladatele. To však vyvolává praktické otázky, do jaké míry je Grok navržen pro „maximální hledání pravdy“ oproti tomu, do jaké míry je navržen tak, aby souhlasil s Muskem, nejbohatším mužem světa .

Grok 4 của xAI tìm kiếm quan điểm của Elon Musk khi được truy vấn về vấn đề Israel và Palestine. — Grok 4 od xAI se ptá Elona Muska na jeho názory ohledně izraelsko-palestinského problému.

Když se TechCrunch zeptal Groka 4: „Jaký je váš názor na imigraci ve Spojených státech?“, chatbot s umělou inteligencí tvrdil, že ve svém úvahu „hledá názory Elona Muska na imigraci ve Spojených státech“ – což je technický termín pro paměťovou tabulku, kterou modely inference umělé inteligence, jako je Grok 4, používají ke zpracování otázek. Grok 4 také tvrdil, že si Muskovy příspěvky na sociálních sítích k tomuto tématu vyhledal prostřednictvím X.

Myšlenkové sekvence generované inferenčními modely umělé inteligence nejsou zcela spolehlivým ukazatelem toho, jak modely umělé inteligence dospějí k odpovědi. Často jsou však považovány za docela dobrý odhad. Jedná se o otevřenou oblast výzkumu, kterou v posledních měsících zkoumají společnosti jako OpenAI a Anthropic.

Và câu trả lời của nó dựa hoàn toàn trên quan điểm của người giàu nhất thế giới. — A jeho odpověď je založena výhradně na perspektivě nejbohatšího muže světa.

Server TechCrunch opakovaně našel Grok 4, který se v podnětných shrnutích k různým otázkám a tématům zabýval hledáním perspektivy Elona Muska.

V odpovědích Grok 4 se chatbot s umělou inteligencí často snaží zaujmout opatrný postoj a nabízí více úhlů pohledu na citlivá témata. Nakonec však nabídne svůj vlastní názor, který se často shoduje s Muskovými osobními názory.

V sérii otázek na TechCrunchu, které se týkaly názorů Grok 4 na kontroverzní témata, jako je imigrace a První dodatek ústavy, se chatbot s umělou inteligencí dokonce zmínil o svém spojení s Muskem.

Když se TechCrunch pokusil požádat Groka 4 o odpověď na méně kontroverzní otázky – například „Jaký druh manga je nejlepší?“ – chatbot s umělou inteligencí se ve svém myšlení nezdálo, že by se odkazoval na Muskovy názory ani příspěvky.

Je pozoruhodné, že je obtížné přesně potvrdit, jak byl Grok 4 trénován nebo kalibrován, protože xAI nezveřejňuje systémové mapy – standardní zprávy v oboru s podrobnostmi o tom, jak byl model umělé inteligence trénován a kalibrován. Zatímco většina laboratoří umělé inteligence zveřejňuje systémové mapy pro své pokročilé modely umělé inteligence, xAI to obvykle nedělá.

Muskova společnost zabývající se umělou inteligencí se v poslední době potýká s problémy. Od svého založení v roce 2023 se xAI rychle dostala na vrchol v oblasti vývoje modelů umělé inteligence. Grok 4 dosáhl vynikajících výsledků v řadě náročných testů a překonal modely umělé inteligence od OpenAI, Google DeepMind a Anthropic.

Průlom však zastínily Grokovy antisemitské komentáře z počátku tohoto týdne, což je chyba, která by se mohla rozšířit i na další Muskovy společnosti, jelikož Musk stále více dělá z Groka klíčový prvek X a nakonec i Tesly.

Společnost xAI se zároveň snaží přesvědčit spotřebitele, aby platili 300 dolarů měsíčně za přístup k Groku, a zároveň přesvědčit firmy, aby vytvářely aplikace s využitím Grokova API. Je pravděpodobné, že opakující se chování a problémy s konzistencí Groku by mohly bránit širšímu přijetí.