Teama de fraudă cu capacitatea ChatGPT de a crea fotografii realiste

ChatGPT „desenează ca o fotografie”

Pe 26 martie, comunitatea utilizatorilor de inteligență artificială (IA) din întreaga lume , precum și din Vietnam, a fost în efervescență când OpenAI a lansat oficial Images in ChatGPT, concentrându-se pe capacitățile de creare de imagini pentru utilizatorii modelului inteligent al companiei. Anterior, ChatGPT avea și capacitatea de a crea imagini, dar era limitată și trebuia să treacă printr-un alt model text-imagine faimos, DALL-E.

Capacitatea instrumentului de a transforma textul în desene și de a „combina imagini precum Photoshop” a atras rapid atenția. Mulți au spus că imaginea rezultată a fost „uimitoare” și majoritatea l-au evaluat ca fiind „superioară” în comparație cu modelele de inteligență artificială populare de pe piață.

ChatGPT creează cești de cafea realiste cu o simplă comandă

Potrivit lui Gabriel Goh, lider al echipei de cercetare de la OpenAI, îmbunătățirea semnificativă a capacităților de generare a imaginilor ChatGPT folosind modelul GPT-4o este „Binding” - un termen pentru gradul în care generatorul de imagini AI menține conexiunea dintre atribute și obiecte. Dl. Goh a afirmat că GPT-4o poate lega cu precizie atributele pentru 15-20 de obiecte diferite fără confuzie, îmbunătățind semnificativ acuratețea și fiabilitatea conținutului generat.

Nu numai că remarcabilă prin capacitatea sa de creare a imaginilor, Images in ChatGPT rezolvă și slăbiciunea „fatală” a altor instrumente de inteligență artificială generatoare de imagini, și anume afișarea scrierii și a textului în interiorul imaginii. De fapt, multe imagini care conțin text sunt afișate cu precizie, ceea ce face ca imaginea să fie și mai dificil de distins între fals și real.

Dezavantajul acestui instrument este că durează mult timp pentru a genera imagini, dar este considerat rezonabil deoarece întârzierea este creată de faptul că imaginile de bună calitate, detaliile precise și potrivirea cu descrierea utilizatorului necesită întotdeauna răbdare. Echipa de cercetare a declarat că problema întârzierii va fi îmbunătățită în viitor.

Multe îngrijorări cu privire la capacitatea de a combina fotografii

Pe lângă distracția din experiența inițială pe care ChatGPT și OpenAI o aduc utilizatorilor, problema securității informațiilor, a confidențialității, precum și a riscului de exploatare este din nou adusă în prim-plan. „În viitorul apropiat, imaginile pe care le vedeți online s-ar putea să nu fie neapărat reale”, și-a exprimat îngrijorarea un utilizator de Facebook din Vietnam atunci când a putut cere ChatGPT să creeze imagini complet ireale care arată la fel de reale ca niște fotografii, de exemplu, o fotografie cu actorul și fostul luptător Dwayne Johnson (The Rock) care face reclamă unei mărci de gumă de mestecat sau o fotografie cu o pisică calico stând pe aragaz, care arată exact ca o fotografie.

Cu comenzi detaliate furnizate, utilizatorii pot crea rezultate surprinzătoare fără a fi nevoie de cunoștințe aprofundate despre utilizarea instrumentelor tradiționale de editare foto.

Mulți oameni au încercat chiar și capacitatea de „dezbrăcare” a noului instrument. TN ( Hanoi ) a spus că a folosit o fotografie cu model luată de pe internet pentru a-i cere lui ChatGPT să se schimbe de haine așa cum i-a fost cerut și aproape toate comenzile au fost onorate cu o precizie ridicată. „Cu toate acestea, au existat totuși unele refuzuri, în principal din cauza încălcării politicii sistemului privind crearea de imagini protejate de drepturi de autor sau conținut excesiv de sexy”, a declarat TN.

În testele efectuate de Thanh Nien , ChatGPT a refuzat să creeze imagini legate de personaje celebre sau protejate de drepturi de autor din lumea reală sau din filme și povești. „Nu pot crea imaginea așa cum a fost solicitată, deoarece imaginea de referință pe care ați trimis-o îl arată clar pe personajul Doctor Strange - un personaj protejat de drepturi de autor al Marvel, iar acest lucru încalcă politica actuală de conținut”, a răspuns sistemul când i s-a cerut să creeze o imagine cu Doctor Strange stând... bând ceai cu gheață în Vietnam.

Jackie Shannon, șefa diviziei de produse multimodale de la ChatGPT, a confirmat că Images in ChatGPT oferă o protecție puternică împotriva conținutului Deepfake, pornografic sau fraudulos. În special, imaginile generate vor integra metadate standard C2PA pentru a le marca drept produse AI, dar necesită instrumente separate pentru verificare.

Cu toate acestea, există încă mulți oameni care „încalcă legea” cu succes și folosesc imagini cu oameni celebri în scopuri de divertisment. De exemplu, imaginea directorului general Tim Cook ținând un telefon Samsung în loc de un iPhone, sau imaginea actorului Robert Downey Jr. mestecând o bomboană cu legume, sau imaginea lui Cristiano Ronaldo jucând pentru o minge cu Lionel Messi într-o mică alee din Vietnam, în fața multor oameni...

Sursă: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm