Industria tehnologică încearcă să identifice imaginile generate de inteligența artificială

Directorul executiv al Truepic, Jeffrey McGregor, a declarat că incidentul este doar vârful aisbergului. Va exista mai mult conținut generat de inteligența artificială pe rețelele de socializare și nu suntem pregătiți pentru asta, a spus McGregor.

Potrivit CNN, Truepic dorește să rezolve această problemă oferind o tehnologie care pretinde că autentifică fișierele media în momentul creării prin intermediul Truepic Lens. Aplicația de colectare a datelor va comunica utilizatorilor data, ora, locația și dispozitivul folosit pentru crearea imaginii și va aplica o semnătură digitală pentru a verifica dacă imaginea este naturală sau generată de inteligența artificială.

O fotografie falsă cu explozia de la Pentagon a devenit virală pe Twitter

Truepic, o companie susținută de Microsoft și fondată în 2015, a declarat că se observă interes din partea ONG-urilor , a companiilor media și chiar a asigurătorilor care doresc să confirme legitimitatea afirmațiilor.

McGregor spune că atunci când totul va putea fi falsificat, când inteligența artificială va fi atins apogeul calității și accesibilității, nu vom mai ști care este realitatea online.

Companiile de tehnologie precum Truepic lucrează de ani de zile pentru a combate dezinformarea online. Însă apariția unei noi generații de instrumente de inteligență artificială, care pot genera imagini și text la comanda utilizatorului, a sporit urgența. La începutul acestui an, imagini false cu Papa Francisc într-o jachetă de puf Balenciaga și fostul președinte american Donald Trump arestat au fost distribuite pe scară largă. Ambele incidente au lăsat milioane de oameni confuzi cu privire la potențialele pericole ale inteligenței artificiale.

Unii legislatori solicită acum companiilor de tehnologie să abordeze problema prin etichetarea conținutului generat de inteligența artificială. Vicepreședinta Comisiei Europene (CE), Vera Jourova, a declarat că companii precum Google, Meta, Microsoft și TikTok au aderat la codul de bune practici voluntar al Uniunii Europene (UE) privind combaterea dezinformării.

Un număr tot mai mare de startup-uri și giganți tehnologici, inclusiv unii care implementează inteligența artificială generativă în produsele lor, încearcă să implementeze standarde și soluții pentru a ajuta oamenii să determine dacă o imagine sau un videoclip a fost creat cu ajutorul inteligenței artificiale.

Însă, pe măsură ce tehnologia IA avansează mai repede decât pot ține pasul oamenii, nu este clar dacă aceste soluții pot rezolva complet problema. Chiar și OpenAI, compania din spatele Dall-E și ChatGPT, a recunoscut că propriile eforturi de a ajuta la detectarea scrierii generate de IA sunt imperfecte.

Companiile care dezvoltă soluții adoptă două abordări ale problemei. Prima se bazează pe dezvoltarea de programe pentru identificarea imaginilor generate de inteligența artificială după ce acestea au fost produse și partajate online. Cealaltă se concentrează pe marcarea unei imagini ca fiind reale sau generate de inteligența artificială cu un tip de semnătură digitală.

Reality Defender și Hive Moderation lucrează la prima variantă. Cu ajutorul platformei lor, utilizatorii pot încărca imagini pentru scanare și apoi pot primi o defalcare care arată un procent din valoarea reală sau generată de inteligența artificială a fotografiei.

Reality Defender a declarat că folosește tehnologie proprie deepfake și amprentare generativă a conținutului pentru a detecta videoclipuri, audio și imagini generate de inteligență artificială. Într-un exemplu furnizat de companie, Reality Defender a arătat o imagine deepfake a lui Tom Cruise care era 53% „suspectă” deoarece persoana din imagine avea o față distorsionată, lucru care se vede adesea în fotografiile manipulate.

Imagini etichetate generate de inteligență artificială

Aceste servicii oferă versiuni gratuite și plătite. Hive Moderation spune că percepe o taxă de 1,50 USD pentru 1.000 de imagini. Realty Defender spune că prețurile sale pot varia în funcție de o varietate de factori, în cazurile în care clienții necesită expertiza și asistența companiei. CEO-ul Reality Defender, Ben Colman, spune că riscul se dublează în fiecare lună, deoarece oricine poate crea fotografii false folosind instrumente de inteligență artificială.

Mai multe alte companii lucrează la adăugarea unui fel de etichetă imaginilor pentru a certifica dacă acestea sunt reale sau generate de inteligența artificială. Până acum, efortul a fost condus în mare parte de Content Authenticity and Origination Alliance (C2PA).

C2PA a fost fondată în 2021 pentru a crea un standard tehnic pentru certificarea originii și istoriei media digitale, combinând Inițiativa de Autentificare a Conținutului (CAI) și Proiectul Origin al Adobe, condus de Microsoft și BBC, cu accent pe combaterea dezinformării în știrile digitale. Printre alte companii implicate în C2PA se numără Truepic, Intel și Sony.

Pe baza principiilor C2PA, CAI va lansa instrumente open-source pentru companii, care să permită crearea de acreditări de conținut, sau metadate, care conțin informații despre imagini. Conform site-ului web CAI, acest lucru permite creatorilor să partajeze în mod transparent detalii despre modul în care au creat o imagine. În acest fel, utilizatorii finali pot accesa contextul din jurul cine, ce și cum a fost modificată o imagine - și apoi pot judeca singuri cât de autentică este imaginea.

Multe companii au integrat deja standardul C2PA și instrumentele CAI în aplicațiile lor. Firefly de la Adobe, un nou instrument de imagistică bazat pe inteligență artificială adăugat în Photoshop, respectă standardul C2PA prin intermediul funcției sale de acreditări de conținut. Microsoft a anunțat, de asemenea, că imaginile și videoclipurile create cu Bing Image Creator și Microsoft Designer vor purta semnături criptografice în lunile următoare.

În luna mai, Google a anunțat funcția „Despre această imagine”, care permite utilizatorilor să vadă când a apărut o imagine pentru prima dată pe Google și unde poate fi văzută. Gigantul căutărilor a anunțat, de asemenea, că fiecare imagine generată de inteligența artificială Google va conține un markup în fișierul original pentru a „adăuga context” dacă imaginea este găsită pe un alt site web sau platformă.

În timp ce companiile de tehnologie încearcă să abordeze preocupările legate de imaginile generate de inteligența artificială și de integritatea mediilor digitale, experții din domeniu subliniază că întreprinderile vor trebui să colaboreze între ele și cu guvernele pentru a aborda această problemă. Cu toate acestea, companiile de tehnologie se întrec în dezvoltarea inteligenței artificiale în ciuda riscurilor.

Legătură sursă