A ChatGPT új képgeneráló technológiájának veszélyei a nyugták hamisításában.

(CLO) A ChatGPT nemrégiben elindított egy új képkészítő eszközt, amely a GPT-4o modellbe integrálva kiváló szöveg-a-kép létrehozási képességekkel rendelkezik.

A felhasználók azonban gyorsan felfedezték, hogy ezt a funkciót visszaéléssel lehet felhasználni az éttermi számlák meghamisítására.

Deedy Das befektető egy San Franciscó-i steakhouse-ból származó hamis nyugta képét tette közzé az X-en, azt állítva, hogy a fotót GPT-4o segítségével készítették.

Az Investor Deedy megosztotta a képet az X közösségi média platformon.

Sok más felhasználó is sikeresen újraalkotta a hatást, sőt, étel- és italfoltokat is hozzáadtak a realizmus fokozása érdekében.

Egy másik felhasználó megosztott egy képet egy nyugtáról, amelyen ételfoltok voltak, ami nagyon realisztikusnak tűnt, de szintén a ChatGPT készítette.

Vagy például egy franciaországi felhasználó közzétett egy hamis, gyűrött nyugtát egy helyi étteremlánctól.

A fotót egy francia felhasználó osztotta meg.

Sokan mások is tesztelték az új funkciót, és hamis nyugtákat készítettek az üzletek számára, de a képeken továbbra is vannak következetlenségek, például: Vesszők pontok helyett a teljes összegben; helytelen számítások (a mesterséges intelligencia gyengesége az alapvető számításokban).

A rosszindulatú szereplők azonban könnyen orvosolhatják ezt egyszerű szoftveres szerkesztésekkel vagy parancsok (promptok) módosításával.

A hamis számlák létrehozásának egyszerűsége jelentős kockázatokat rejt magában, például nem létező költségek csalárd visszatérítését.

Erre a problémára válaszul az OpenAI kijelentette, hogy minden mesterséges intelligencia által generált kép metaadatokat tartalmaz, amelyek igazolják a ChatGPT-ből származó eredetüket. A vállalat „intézkedéseket” is tesz, ha a felhasználók megsértik a szabályzatait, és „folyamatosan tanul” a valós visszajelzésekből.

Amikor a hamis számlák létrehozásának engedélyezéséről kérdezték, Taya Christianson, az OpenAI szóvivője elmondta, hogy a cél a „kreatív szabadság maximalizálása”, és azt javasolta, hogy a hamis számlákat pénzügyi oktatási , művészeti vagy reklámcélokra is fel lehetne használni.

Nem ez az első alkalom, hogy a mesterséges intelligenciát kihasználják. Korábban a MidJourney és a DALL-E rendszereket dokumentumok, személyi igazolványok és akár pénznemek hamis képeinek létrehozására használták.

Cao Phong (TC, MSB szerint)

Forrás: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html