Nebezpečí nové technologie generování obrázků ChatGPT při padělání účtenek.

(CLO) ChatGPT nedávno spustil nový nástroj pro tvorbu obrázků integrovaný do modelu GPT-4o s vynikajícími možnostmi tvorby textu v obrázku.

Uživatelé však rychle zjistili, že tato funkce by mohla být zneužita k falšování účtů z restaurací.

Investor Deedy Das zveřejnil na X obrázek falešného účtenky ze steakhousu v San Franciscu s tvrzením, že fotografie byla vytvořena pomocí GPT-4o.

Investor Deedy sdílel obrázek na sociální síti X.

Mnoho dalších uživatelů tento efekt úspěšně znovu vytvořilo a dokonce přidali skvrny od jídla a pití pro zvýšení realismu.

Jiný uživatel sdílel obrázek účtenky se skvrnami od jídla, který vypadal velmi realisticky, ale byl také vytvořen aplikací ChatGPT.

Nebo například uživatel ve Francii zveřejnil falešný, zmačkaný účet z místního řetězce restaurací.

Fotografii sdílel uživatel z Francie.

Mnoho dalších lidí testovalo novou funkci a také vytvořilo falešné účtenky pro obchody, ale obrázky stále obsahují nesrovnalosti, jako například: čárky místo teček v celkové částce; nesprávné výpočty (slabina umělé inteligence v základních výpočtech).

Zlomyslní aktéři to však mohou snadno opravit provedením jednoduchých úprav pomocí softwaru nebo úpravou příkazů (prompts).

Snadnost, s jakou lze vytvořit falešné faktury, s sebou nese značná rizika, jako jsou podvodné vrácení peněz za neexistující výdaje.

V reakci na tento problém společnost OpenAI uvedla, že všechny obrázky generované umělou inteligencí obsahují metadata potvrzující jejich původ z ChatGPT. Společnost také „podniká kroky“, když uživatelé poruší její zásady, a „neustále se učí“ z reálné zpětné vazby.

Na otázku ohledně povolení vytváření falešných faktur mluvčí OpenAI Taya Christiansonová vysvětlila, že cílem je „maximalizace tvůrčí svobody“ a naznačila, že falešné faktury by mohly být použity pro finanční vzdělávání , umění nebo reklamní účely.

Není to poprvé, co byla umělá inteligence zneužita. Dříve byly MidJourney a DALL-E použity k vytváření falešných obrázků dokumentů, průkazů totožnosti a dokonce i měny.

Cao Phong (podle TC, MSB)

Zdroj: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html