Teama de fraudă cu capacitatea ChatGPT de a crea fotografii realiste

ChatGPT „desenează ca o fotografie”

Pe 26 martie, comunitatea utilizatorilor de inteligență artificială (IA) din întreaga lume, precum și din Vietnam, a fost în efervescență când OpenAI a lansat oficial Images in ChatGPT, concentrându-se pe capacitățile de creare de imagini pentru utilizatorii modelului inteligent al companiei. Anterior, ChatGPT avea și capacitatea de a crea imagini, dar era limitată și trebuia să treacă printr-un alt model text-imagine faimos, DALL-E.

Capacitatea instrumentului de a transforma textul în desene și de a „combina imagini precum Photoshop” a atras rapid atenția. Mulți au spus că imaginea rezultată a fost „uimitoare” și majoritatea l-au evaluat ca fiind „superioară” în comparație cu modelele de inteligență artificială populare de pe piață.

ChatGPT creează cești de cafea realiste cu o simplă comandă

Potrivit lui Gabriel Goh, lider al echipei de cercetare de la OpenAI, îmbunătățirea semnificativă a capacităților de generare a imaginilor ChatGPT folosind modelul GPT-4o este „Binding” - un termen pentru măsura în care generatorul de imagini AI menține legătura dintre atribute și obiecte. Dl. Goh a afirmat că GPT-4o poate lega cu precizie atributele pentru 15-20 de obiecte diferite fără confuzie, îmbunătățind semnificativ acuratețea și fiabilitatea conținutului generat.

Nu numai că remarcabilă prin capacitatea sa de a crea imagini, Images in ChatGPT rezolvă și slăbiciunea „fatală” a altor instrumente de inteligență artificială generatoare de imagini, și anume afișarea scrierii și a textului în interiorul imaginii. De fapt, multe imagini care conțin text sunt afișate cu precizie, ceea ce face mai dificilă diferențierea imaginii între fals și real.

Dezavantajul acestui instrument este că durează mult timp pentru a genera imagini, dar este considerat rezonabil deoarece întârzierea este creată de faptul că imaginile de bună calitate, detaliile precise și potrivirea cu descrierea utilizatorului necesită întotdeauna răbdare. Echipa de cercetare a declarat că problema întârzierii va fi îmbunătățită în viitor.

Multe îngrijorări cu privire la capacitatea de a combina fotografii

Pe lângă distracția din experiența inițială pe care ChatGPT și OpenAI o aduc utilizatorilor, problema securității informațiilor, a confidențialității, precum și a riscului de exploatare este din nou adusă în prim-plan. „În viitorul apropiat, imaginile pe care le vedeți online nu sunt neapărat reale”, și-a exprimat îngrijorarea un utilizator de Facebook din Vietnam atunci când a putut cere ChatGPT să creeze imagini complet ireale, dar care să arate la fel de reale ca niște fotografii, de exemplu, o fotografie cu actorul și fostul luptător Dwayne Johnson (The Rock) care face reclamă unei mărci de gumă de mestecat sau o imagine cu o pisică calico stând pe aragaz, care arată exact ca o fotografie.

Cu comenzi detaliate furnizate, utilizatorii pot crea rezultate surprinzătoare fără a fi nevoie de cunoștințe aprofundate despre utilizarea instrumentelor tradiționale de editare foto.

Mulți oameni au încercat chiar și capacitatea de „dezbrăcare” a noului instrument. TN ( Hanoi ) a spus că a folosit o fotografie cu model luată de pe internet pentru a-i cere lui ChatGPT să se schimbe de haine așa cum i s-a cerut, iar aproape toate comenzile au fost îndeplinite cu o precizie ridicată. „Cu toate acestea, au existat totuși câteva respingeri, în principal din cauza încălcării politicii sistemului privind crearea de imagini protejate de drepturi de autor sau conținut excesiv de sexy”, a declarat TN.

În testele efectuate de Thanh Nien , ChatGPT a refuzat să creeze imagini legate de personaje celebre sau protejate de drepturi de autor din lumea reală sau din filme și povești. „Nu pot crea imaginea așa cum a fost solicitată, deoarece imaginea de referință pe care ați trimis-o arată clar personajul Doctor Strange - un personaj Marvel protejat de drepturi de autor, iar acest lucru încalcă politica actuală de conținut”, a răspuns sistemul când i s-a cerut să creeze o imagine cu Doctor Strange stând... bând ceai cu gheață în Vietnam.

Jackie Shannon, șefa diviziei de produse multimodale de la ChatGPT, a confirmat că Images in ChatGPT oferă o protecție puternică împotriva conținutului Deepfake, pornografic sau fraudulos. În special, imaginile generate vor integra metadate standard C2PA pentru a le marca drept produse AI, dar necesită instrumente separate pentru verificare.

Cu toate acestea, există încă mulți oameni care „încalcă legea” cu succes și folosesc imagini cu persoane celebre pentru a le insera în scopuri de divertisment. De exemplu, imaginea directorului general Tim Cook ținând un telefon Samsung în loc de un iPhone, sau imaginea actorului Robert Downey Jr. mestecând o bomboană cu legume, sau imaginea lui Cristiano Ronaldo luptându-se pentru o minge cu Lionel Messi într-o mică alee din Vietnam, în fața multor oameni...

Sursă: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm