Umělá inteligence „ohrožuje“ americké volby

Odborníci na umělou inteligenci a technicky zdatní politologové bijí na poplach ohledně nepředvídatelného stavu generativních nástrojů umělé inteligence, jako je ChatGPT, před prezidentskými volbami v USA v roce 2024.

„Amerika na to není připravená“

Stanice Fox News 15. května citovala pana A. J. Nashe, viceprezidenta kyberbezpečnostní společnosti ZeroFox (se sídlem v Minnesotě v USA), který se specializuje na umělou inteligenci. Varoval, že Američané nejsou připraveni na vyhlídku na to, že se budou muset setkat s generativní umělou inteligencí. Podle něj generativní umělá inteligence dokáže nejen rychle sestavit obsah e-mailů, zpráv a videoklipů , které slouží volební kampani, ale může se také stát nebezpečným nástrojem.

Vlády se předhánějí v hledání způsobů, jak regulovat nástroje umělé inteligence

„Generativní umělá inteligence nabízí významný skok vpřed ve schopnosti vytvářet audio a video obsah. Když to dokážete ve velkém měřítku a distribuujete to napříč platformami sociálních médií, má to obrovský dopad,“ vysvětlil Nash. Mezi mnoha možnostmi, které generativní umělá inteligence, jako je ChatGPT, dokáže, existuje mnoho takových, které mají silný dopad na volby a hlasování v moderní zemi, jako jsou Spojené státy.

ChatGPT dokáže vytvořit spoustu obsahu za krátkou dobu

Ilustrační foto: REUTERS

Například ChatGPT dokáže vytvářet automatizované hlasové zprávy, které napodobují hlas kandidáta a vyzývají voliče, aby hlasovali v nesprávný den; zveřejňovat zvukové nahrávky, které vypadají, jako by se kandidát přiznával k trestnému činu nebo vytvářel rasistický obsah; vytvářet videoklipy osoby pronášející projev nebo rozhovor, který se ve skutečnosti nikdy nestal; a počítačem generované obrázky založené na místních zprávách, které falešně uvádějí, že kandidát z volebního závodu odstoupil.

„Co kdyby vám zavolal sám Elon Musk a přesvědčil vás, abyste volili konkrétního kandidáta?“ řekl Dr. Oren Etzioni, bývalý generální ředitel a zakladatel Allen Institute for AI (se sídlem ve státě Washington v USA). „Mnoho lidí by mu naslouchalo. Ale to rozhodnutí neudělal on, to umělá inteligence,“ poznamenal Dr. Etzioni.

Nebezpečí od nepřítele

Pan Petko Stoyanov, globální technologický ředitel společnosti Forcepoint (se sídlem v Texasu v USA), varoval, že cizí mocnosti by mohly zneužít umělé inteligence k pokusu o sabotáž amerických voleb v roce 2024. „Co se stane, když se cizí mocnost, kyberzločinná organizace nebo stát pokusí vydávat za někoho jiného? Jaký bude mít vliv? Máme způsob, jak reagovat?“, nastolil pan Stoyanov otázky, kterými je třeba se zabývat. Podle něj budou USA během voleb svědky vlny dezinformací ze zahraničních zdrojů.

Senátor Pete Ricketts (Nebraska) také varoval před rizikem, že pročínské organizace budou během volební sezóny 2024 používat deepfakes (technologie, která vytváří vykonstruované obrázky a videa, aby vypadaly a zněly jako skuteční lidé a události). „Tuto schopnost naprosto mají a na to si musíme dávat opravdu pozor,“ řekl pan Ricketts v rozhovoru pro Fox News.

Od začátku roku vyvolaly falešné zprávy vytvořené umělou inteligencí na sociálních sítích bouři. Patří mezi ně falešná videa pana Bidena, na kterých pronáší urážlivé výroky o transgender lidech, nebo vymyšlené snímky dětí, jak v knihovnách studují satanismus. Mnoho lidí tomu dokonce uvěřilo poté, co se na internetu objevily fotografie policejních záznamů bývalého prezidenta Donalda Trumpa, přestože nebyl vyfotografován za žádný trestný čin. Další snímky generované umělou inteligencí ukazovaly pana Trumpa, jak se brání zatýkání, a tyto snímky byly rovněž falešné.

Zástupkyně Yvette Clarke (New York) předložila návrh zákona, který by od kandidátů vyžadoval informování voličů o reklamních obrázcích generovaných umělou inteligencí. Clarke se také podílela na návrhu zákona, který by od každého, kdo vytváří kompozitní obrázek, vyžadoval, aby k němu byl vodoznak jasně uveden zdroj obrázku. Několik států také předložilo vlastní návrhy na řešení obav z deepfake.

Senátor Ricketts prohlásil, že nejlepší, co nyní můžeme udělat, je vzdělávat Američany o rizicích, která představuje umělá inteligence. Dodal, že americká vláda by mohla spolupracovat s univerzitami na zlepšení jejich schopnosti odhalovat falešné obrázky před začátkem voleb.

Upgradováno ChatGPT

Podle Mashable provedla společnost OpenAI (Kalifornie, USA) důležitou aktualizaci ChatGPT, podle níž se tento nástroj nyní může připojovat a surfovat po webu během provozu. To umožňuje ChatGPT aktualizovat nejnovější informace a poskytovat autentičtější odpovědi. V současné době společnosti jako Amazon v USA najímají tým inženýrů umělé inteligence, aby vytvářeli a integrovali rozhraní, jako je ChatGPT, a obsluhovali tak burzy se zákazníky.

Zdrojový odkaz: https://thanhnien.vn/ai-tao-sinh-de-doa-bau-cu-my-18523051612541231.htm