Pericolele noii tehnologii de generare a imaginilor ChatGPT în falsificarea chitanțelor.

(CLO) ChatGPT a lansat recent un nou instrument de creare a imaginilor integrat în modelul GPT-4o, cu capacități superioare de creare a textului în imagine.

Cu toate acestea, utilizatorii au descoperit rapid că această funcție putea fi utilizată în mod abuziv pentru a falsifica facturile de la restaurant.

Investitorul Deedy Das a postat pe X o imagine cu o chitanță falsă de la un restaurant specializat în fripturi din San Francisco, susținând că fotografia a fost creată folosind GPT-4o.

Investitorul Deedy a distribuit imaginea pe platforma de socializare X.

Mulți alți utilizatori au recreat cu succes efectul, adăugând chiar pete de mâncare și băutură pentru a spori realismul.

Un alt utilizator a distribuit o imagine cu o chitanță cu pete de mâncare care părea foarte realistă, dar a fost creată tot de ChatGPT.

Sau, de exemplu, un utilizator din Franța a postat o chitanță falsă, mototolită, de la un lanț de restaurante locale.

Fotografia a fost distribuită de un utilizator din Franța.

Mulți alții au testat noua funcție și au creat, de asemenea, chitanțe false pentru magazine, dar imaginile prezintă în continuare inconsecvențe, cum ar fi: virgule în loc de puncte în suma totală; calcule incorecte (o slăbiciune a inteligenței artificiale în calculele de bază).

Totuși, actorii rău intenționați pot remedia cu ușurință acest lucru efectuând modificări simple folosind software sau modificând comenzile (prompturile).

Ușurința cu care pot fi create facturi false deschide riscuri semnificative, cum ar fi rambursările frauduloase pentru cheltuieli inexistente.

Ca răspuns la această problemă, OpenAI a declarat că toate imaginile generate de inteligența artificială conțin metadate care recunosc originea lor din ChatGPT. De asemenea, compania „ia măsuri” atunci când utilizatorii încalcă politicile sale și „învață continuu” din feedback-ul din lumea reală.

Când a fost întrebată despre permiterea creării de facturi false, purtătoarea de cuvânt a OpenAI, Taya Christianson, a explicat că scopul este „maximizarea libertății creative” și a sugerat că facturile false ar putea fi folosite în scopuri educaționale financiare, artistice sau publicitare.

Nu este prima dată când inteligența artificială este exploatată. Anterior, MidJourney și DALL-E au fost folosite pentru a crea imagini false ale documentelor, cărților de identitate și chiar ale monedei.

Cao Phong (conform TC, MSB)

Sursă: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html