Umělá inteligence představuje „hrozbu“ pro americké volby.

Odborníci na umělou inteligenci a technicky zdatní politologové bijí na poplach ohledně nepředvídatelné povahy nástrojů pro generování umělé inteligence, jako je ChatGPT, před prezidentskými volbami v USA v roce 2024.

"USA na to nejsou připravené."

Televizní stanice Fox News 15. května informovala, že AJ Nash, viceprezident pro umělou inteligenci ve společnosti ZeroFox, která se zabývá kybernetickou bezpečností a se sídlem v Minnesotě, varoval Američany, že nejsou připraveni na vyhlídku na to, že se setkají s generativní umělou inteligencí. Podle něj by generativní umělá inteligence mohla nejen rychle vytvářet e-maily, textové zprávy a videoklipy pro volební kampaně, ale mohla by se také stát nebezpečným nástrojem.

Vlády po celém světě se předhánějí v hledání způsobů, jak regulovat nástroje umělé inteligence.

„Generativní umělá inteligence přináší významný skok vpřed ve schopnosti vytvářet audio a video obsah. Pokud to bude možné dělat ve velkém měřítku a distribuovat to napříč platformami sociálních médií, bude mít tato technologie obrovský dopad,“ vysvětlil Nash. Mezi mnoha možnostmi, kterých generativní umělá inteligence, jako je ChatGPT, může dosáhnout, existuje několik takových, které by mohly silně ovlivnit volby a hlasování v moderní zemi, jako jsou Spojené státy.

ChatGPT dokáže vygenerovat velké množství obsahu v krátkém čase.

Ilustrační foto: REUTERS

Například ChatGPT může generovat automatické hlasové zprávy napodobující hlasy kandidátů a vyzývat voliče, aby hlasovali v nesprávný den; zveřejňovat falešné zvukové nahrávky kandidátů, kteří se doznávají k trestným činům nebo vytvářejí rasistický obsah; a vytvářet videoklipy někoho, kdo pronáší projev nebo rozhovor, který se ve skutečnosti nikdy nestal. Kromě toho se mohou objevit počítačem generované obrázky založené na místních zprávách, které obsahují zavádějící informace, jako je oznámení o odstoupení kandidáta z volebního závodu.

„Co by se stalo, kdyby vám miliardář Elon Musk osobně zavolal a přesvědčil vás, abyste volili konkrétního kandidáta?“ zeptal se Dr. Oren Etzioni, bývalý zakládající generální ředitel Allen Institute for AI (se sídlem ve státě Washington, USA). „Mnoho lidí by mu naslouchalo. Ale on ten telefonát neudělal; byla to umělá inteligence,“ poukázal Dr. Etzioni.

Hrozby z opačné strany.

Petko Stojanov, globální technologický ředitel firmy Forcepoint (se sídlem v Texasu v USA) pro kybernetickou bezpečnost, varoval, že zahraniční mocnosti by mohly zneužít umělou inteligenci k narušení amerických voleb v roce 2024. „Co se stane, když se zahraniční mocnost, organizace pro kyberkriminalitu nebo stát pokusí vydávat za někoho jiného? Jaký by to mělo dopad? Máme nějakou reakci?“ položil tyto otázky Stojanov. Podle něj USA během voleb zažijí vlnu dezinformací ze zahraničních zdrojů.

Senátor Pete Ricketts (Nebraska) také varoval před rizikem, že pročínské organizace budou během volební sezóny v roce 2024 používat deepfaky (technologie, která vytváří vykonstruované obrázky a videa, aby vypadaly a zněly jako skuteční lidé a události). „Tuto schopnost rozhodně mají a na to si musíme dávat velký pozor,“ řekl Ricketts v rozhovoru pro Fox News.

I od začátku roku falešné zprávy generované umělou inteligencí opakovaně vyvolávají rozruch na sociálních sítích. Mezi příklady patří falešný videoklip Bidena, jak útočí na transgender osoby, nebo vymyšlené snímky dětí, které studují satanismus v knihovnách. Mnoho lidí dokonce slepě uvěřilo internetu poté, co se v policejních záznamech objevily fotografie bývalého prezidenta Donalda Trumpa, přestože nikdy nebyl vyfotografován při páchání trestného činu. Další snímky generované umělou inteligencí ukazují Trumpa, jak se brání zatýkání, a ty byly samozřejmě také falešné.

Zástupkyně Yvette Clarke (New York) předložila návrh zákona, který vyžaduje, aby kandidáti informovali voliče o reklamních obrázcích generovaných umělou inteligencí. Clarke se také podílela na návrhu zákona, který by vyžadoval, aby každý, kdo vytváří kompozitní obrázky, přidal vodoznak jasně označující zdroj obrázku. Několik států také předložilo své vlastní návrhy na řešení obav z deepfakes.

Senátor Ricketts naopak navrhl, že nyní lze zvýšit osvětu Američanů o nebezpečích, která představují snímky generované umělou inteligencí. Tvrdil, že by americká vláda mohla spolupracovat s univerzitami na zlepšení jejich schopnosti odhalovat falešné snímky před začátkem voleb.

ChatGPT byl aktualizován.

Podle serveru Mashable společnost OpenAI (Kalifornie, USA) právě provedla významnou aktualizaci nástroje ChatGPT, která umožňuje nástroji připojit se a procházet web během provozu. Díky tomu se ChatGPT může aktualizovat nejnovějšími informacemi a poskytovat přesnější odpovědi. V současné době společnosti jako Amazon najímají inženýry umělé inteligence, aby vytvářeli a integrovali rozhraní, jako je ChatGPT, pro komunikaci se zákazníky.

Zdrojový odkaz: https://thanhnien.vn/ai-tao-sinh-de-doa-bau-cu-my-18523051612541231.htm