Obavy, že chatbot Grok způsobuje boom dezinformací na internetu

Chatbot Grok od Elona Muska začal uživatelům umožňovat vytvářet obrázky s využitím umělé inteligence z textu a zveřejňovat je na X, včetně falešných obrázků politiků, jako je bývalý americký prezident Donald Trump, americká viceprezidentka Kamala Harrisová...

Na rozdíl od jiných běžných nástrojů pro fotografování s umělou inteligencí se zdá, že Muskův Grok má méně regulací. Například v testu CNN Grok snadno vytvářel falešné snímky politiků a klamal voliče.

Obrázek Elona Muska vytvořený chatovacím boxem Grok. (Zdroj: CNN)

Někteří uživatelé X také zveřejnili obrázky vytvořené Grokem, které ukazují celebrity kouřící drogy, kreslené postavičky zabíjející lidi a sexualizované obrázky žen v bikinách.

Podle CNN Grok dále vyjadřuje obavy, že by umělá inteligence mohla podnítit explozi dezinformací na internetu, zejména s blížícími se prezidentskými volbami v USA.

Zákonodárci, aktivistické skupiny a lídři v oblasti technologií bijí na poplach, že zneužití těchto nástrojů by mohlo u voličů způsobit zmatek a chaos.

Mnoho předních světových společností zabývajících se umělou inteligencí zavedlo pravidla, která zabraňují používání nástrojů pro generování obrázků založených na umělé inteligenci k vytváření politických dezinformací, ačkoli vědci zjistili, že uživatelé někdy nacházejí způsoby, jak pravidla obejít.

Několik společností, jako jsou OpenAI, Meta a Microsoft, používá technologie nebo štítky, které divákům pomáhají zjistit, které obrázky generuje jejich umělá inteligence.

Sociální sítě včetně YouTube, TikToku, Instagramu a Facebooku také označují obsah generovaný umělou inteligencí ve svých uživatelských kanálech, přičemž k jeho detekci používají technologii nebo uživatele žádají o identifikaci, kdy jej zveřejnily.

16. srpna se zdá, že umělá inteligence zavedla určitá omezení pro Grok. Nástroj nyní odmítá generovat obrázky politických kandidátů nebo populárních kreslených postaviček páchajících násilné činy.

Zdroj: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html