Americká policie varuje, že umělá inteligence dělá z bezdomovců vtip.

Technologie umělé inteligence ohlašuje nebývalou éru kreativity, kde si lidé mohou vytvářet obrázky, hlasy a digitální obsah jen několika kliknutími. Tato výhoda však s sebou nese i vážná rizika, zejména pokud je umělá inteligence použita jako nástroj k vytváření nebezpečných žertů.

Zdánlivě neškodné situace se stávají palivem pro sociální, právní a psychologické krize.

Umělá inteligence proměňuje bezdomovce ve virtuální postavy v žertu na TikToku – hranice mezi zábavou a urážkou se stírá. (Zdroj: The Verge)

TikTok a vtip o „bezdomovcích s umělou inteligencí“

V USA vyvolává trend na TikToku poplach u policie: Uživatelé používají umělou inteligenci ze Snapchatu k vytváření záběrů bezdomovců objevujících se v domech a poté natáčejí panické reakce jejich rodičů. Někteří rodiče zavolali policii, což vedlo k tísňové reakci, která vypadá jako skutečné vloupání.

Policejní oddělení v Salemu v Massachusetts varuje, že toto chování by mohlo vést k zásahu zásahové jednotky SWAT.

Agentura to nejlépe shrnula ve svém prohlášení: „Tento žert ponižuje bezdomovce, vyvolává paniku mezi volajícími a plýtvá policejními zdroji. Policisté, kteří byli přivoláni k odpovědi, o žertu nevěděli a hovor považovali za skutečné vloupání, čímž vytvořili potenciálně nebezpečnou situaci.“

Žertíky s umělou inteligencí se šíří po celém světě, nejen v USA. V Indii způsobilo deepfake video během voleb v roce 2024 veřejný zmatek, když byl politik obviněn z kontroverzních výroků – které byly kompletně vygenerovány umělou inteligencí.

Po celém světě se první apríl stal „hřištěm umělé inteligence“ s řadou falešných obrázků celebrit a falešných zpráv od příbuzných, což způsobuje psychická traumata a narušuje činnost záchranných složek.

„Rozvoj technologie umělé inteligence s sebou nese riziko zneužití k trestným účelům nebo vyvolání sociální paniky,“ varuje Lewis Griffin, výzkumník z University College London.

Scéna povodně v paláci Gyeongbokgung vytvořená umělou inteligencí. (Fotografie vystřižená z videa, zdroj: Youtube). — Scéna povodně v paláci Gyeongbokgung vytvořená umělou inteligencí. (Fotografie vystřižená z videa , zdroj: Youtube).

Vzdělávání a kontrola

Aby se zabránilo zneužívání umělé inteligence, je nezbytné vzdělávat uživatele, zejména mladé lidi, o technologické etice. Umělá inteligence není hračka a její používání k vytváření falešného obsahu by mělo být považováno za potenciálně škodlivé chování.

Platformy jako TikTok a Snapchat musí zavést silnější filtry obsahu s umělou inteligencí a jasná varování, když uživatelé vytvářejí falešné obrázky nebo zvuky. To nejen ochrání uživatele, ale také sníží riziko vyvolání paniky v komunitě.

Podle průzkumu Pew Research, ačkoli má veřejnost stále mnoho obav ohledně umělé inteligence, jsou experti optimističtější. Obě skupiny se však shodují, že je zapotřebí jasná regulace, aby se zabránilo zneužívání. Vytvoření právního rámce a procesu pro kontrolu umělé inteligence není jen odpovědností vlády, ale také povinností celé společnosti.

Umělá inteligence dokáže vytvářet fantastické světy, ale pokud se jí nevěnuje dostatečná pozornost, může se snadno stát nástrojem pro zmatek a kognitivní zkreslení. (Zdroj: loveonly.ai/Instagram)

Kromě toho musí úřady úzce spolupracovat s technologickými společnostmi na vývoji vhodných postupů reakce. Když žert s umělou inteligencí vede k tísňovému volání, nelze přehlížet plýtvání zdroji a riziko přehnané reakce.

Pan Quang

Zdroj: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html