Niebezpieczeństwa związane z nową technologią generowania obrazów ChatGPT przy fałszowaniu paragonów.

(CLO) Firma ChatGPT niedawno wprowadziła na rynek nowe narzędzie do tworzenia obrazów zintegrowane z modelem GPT-4o, które charakteryzuje się lepszymi możliwościami tworzenia tekstu na obrazach.

Użytkownicy szybko odkryli jednak, że funkcja ta może być wykorzystywana do fałszowania rachunków w restauracjach.

Inwestor Deedy Das zamieścił na X zdjęcie fałszywego paragonu z restauracji serwującej steki w San Francisco, twierdząc, że zdjęcie zostało wykonane przy użyciu kodu GPT-4o.

Inwestor Deedy udostępnił zdjęcie na platformie społecznościowej X.

Wielu innym użytkownikom również udało się odtworzyć ten efekt, dodając nawet plamy od jedzenia i napojów, aby zwiększyć realizm.

Inny użytkownik udostępnił zdjęcie paragonu z plamami jedzenia, które wyglądało bardzo realistycznie, ale także zostało stworzone przez ChatGPT.

Albo na przykład użytkownik z Francji zamieścił fałszywy, pognieciony paragon z lokalnej sieci restauracji.

Zdjęcie udostępnił użytkownik z Francji.

Wielu użytkowników przetestowało nową funkcję i również stworzyło fałszywe paragony dla sklepów, ale na obrazach nadal występują pewne nieścisłości, takie jak: przecinki zamiast kropek w kwocie całkowitej; niepoprawne obliczenia (słaby punkt sztucznej inteligencji w podstawowych obliczeniach).

Jednakże osoby o złych zamiarach mogą łatwo naprawić ten problem, wprowadzając proste zmiany w oprogramowaniu lub modyfikując polecenia (monity).

Łatwość, z jaką powstają fałszywe faktury, niesie ze sobą poważne ryzyko, na przykład oszukańcze zwroty nieistniejących wydatków.

W odpowiedzi na ten problem, OpenAI oświadczyło, że wszystkie obrazy generowane przez sztuczną inteligencję zawierają metadane potwierdzające ich pochodzenie z ChatGPT. Firma „podejmowała również działania”, gdy użytkownicy naruszali jej zasady, i „nieustannie uczyła się” na podstawie rzeczywistych opinii.

Zapytana o możliwość tworzenia fałszywych faktur, rzeczniczka OpenAI, Taya Christianson, wyjaśniła, że ​​celem jest „maksymalizacja wolności twórczej” i zasugerowała, że ​​fałszywe faktury mogą być wykorzystywane w celach edukacji finansowej, artystycznych i reklamowych.

To nie pierwszy raz, kiedy sztuczna inteligencja została wykorzystana. Wcześniej MidJourney i DALL-E były wykorzystywane do tworzenia fałszywych obrazów dokumentów, dowodów osobistych, a nawet waluty.

Cao Phong (według TC, MSB)

Source: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html