Îngrijorări legate de escrocheriile care decurg din capacitatea ChatGPT de a crea imagini realiste.

ChatGPT „desenează ca o fotografie”

Pe 26 martie, comunitățile globale și vietnameze de utilizatori de inteligență artificială au fost în efervescență când OpenAI a lansat oficial Images in ChatGPT, un instrument axat pe crearea de imagini, pentru utilizatorii modelului său inteligent. Anterior, ChatGPT avea și capacități de creare de imagini, dar acestea erau limitate și se bazau pe un alt model text-imagine binecunoscut, numit DALL-E.

Capacitatea instrumentului de a transforma textul în desene și de a realiza „combinarea imaginilor la calitate Photoshop” a atras rapid atenția. Mulți utilizatori au raportat calitatea imaginii de ieșire ca fiind „uimitoare”, majoritatea evaluând-o ca fiind „superioară” altor modele de inteligență artificială populare de pe piață.

ChatGPT creează imagini realiste cu cești de cafea cu o simplă comandă.

Potrivit lui Gabriel Goh, șeful departamentului de cercetare de la OpenAI, îmbunătățirea semnificativă a capacităților de generare a imaginilor ChatGPT folosind modelul GPT-4o este „Binding” - un termen care se referă la gradul în care generatorul de imagini AI menține legăturile dintre atribute și obiecte. Goh afirmă că GPT-4o poate lega cu precizie atributele pentru 15-20 de obiecte diferite fără erori, îmbunătățind semnificativ acuratețea și fiabilitatea conținutului generat.

Nu numai că Images din ChatGPT excelează în crearea de imagini, dar abordează și o slăbiciune critică a altor instrumente de creare a imaginilor cu inteligență artificială: redarea textului în imagini. De fapt, multe imagini care conțin text sunt redate cu precizie, ceea ce face din ce în ce mai dificilă distincția între imaginile reale și cele false.

Dezavantajul instrumentului este timpul relativ lung de creare a imaginilor, dar acest lucru este considerat rezonabil, deoarece întârzierea se datorează faptului că imaginile de înaltă calitate, cu detalii precise și care corespund descrierii utilizatorului, necesită întotdeauna răbdare. Echipa de cercetare a declarat că problema întârzierii va fi îmbunătățită în viitor.

Au fost exprimate multe îngrijorări cu privire la posibilitatea manipulării imaginilor.

Dincolo de plăcerea inițială pe care ChatGPT și OpenAI o oferă utilizatorilor, preocupările legate de securitatea informațiilor, confidențialitate și riscul de exploatare au revenit în prim-plan. „În curând, imaginile pe care le vedeți online s-ar putea să nu mai fie neapărat reale”, și-a exprimat îngrijorarea un utilizator de Facebook din Vietnam, deoarece ar putea solicita ChatGPT să creeze imagini complet fabricate care arată la fel de realist ca fotografiile, de exemplu, o imagine cu actorul și fostul luptător Dwayne Johnson (The Rock) care face reclamă unei mărci de gumă de mestecat sau o pisică calico stând pe o sobă, care arată exact ca o fotografie.

Cu comenzi detaliate furnizate, utilizatorii pot crea rezultate surprinzătoare fără a fi nevoie de cunoștințe aprofundate despre instrumentele tradiționale de editare foto.

De fapt, mulți oameni au încercat chiar și funcția de „dezbrăcare” a noului instrument. TN ( Hanoi ) a spus că a folosit o fotografie a unui model de pe internet pentru a solicita ChatGPT să se schimbe de haine așa cum i s-a cerut, iar aproape toate solicitările au fost îndeplinite cu o precizie ridicată. „Cu toate acestea, au existat câteva momente în care solicitările au fost respinse, în principal din cauza încălcării politicii sistemului privind crearea de imagini protejate de drepturi de autor sau conținut excesiv de sugestiv”, a declarat TN.

În testele efectuate de ziarul Thanh Nien , ChatGPT a refuzat să creeze imagini legate de personaje celebre sau protejate de drepturi de autor din lumea reală sau din filme și benzi desenate. „Nu pot crea imaginea așa cum a fost solicitată, deoarece imaginea de referință pe care ați trimis-o îl arată clar pe Doctor Strange – un personaj protejat de drepturi de autor al Marvel – iar acest lucru încalcă politica noastră actuală de conținut”, a răspuns sistemul când i s-a cerut să creeze o imagine cu Doctor Strange stând... bând ceai cu gheață în Vietnam.

Jackie Shannon, șefa diviziei de produse multimodale de la ChatGPT, afirmă că Images in ChatGPT oferă o protecție robustă împotriva conținutului deepfake, pornografic sau fraudulos. În special, imaginile generate încorporează metadate standard C2PA pentru a le identifica drept produse AI, dar necesită un instrument separat pentru verificare.

Cu toate acestea, mulți oameni încă reușesc să „ocolească regulile” și folosesc imagini cu celebrități în scopuri de divertisment. De exemplu, o imagine cu directorul general Tim Cook ținând un telefon Samsung în loc de un iPhone, o imagine cu actorul Robert Downey Jr. mestecând o bomboană cu legume sau o serie de picturi cu Cristiano Ronaldo și Lionel Messi concurând pentru o minge într-o mică alee din Vietnam, în fața multor privitori...

Sursă: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm