A technológiai ipar mesterséges intelligencia által generált képeket próbál azonosítani

[hirdetés_1]

Jeffrey McGregor, a Truepic vezérigazgatója szerint az incidens csak a jéghegy csúcsa. Több mesterséges intelligencia által generált tartalom lesz a közösségi médiában, és erre még nem vagyunk felkészülve – mondta McGregor.

A CNN szerint a Truepic egy olyan technológiával próbálja megoldani ezt a problémát, amely a Truepic Lens segítségével a létrehozáskor hitelesíti a médiatartalmakat. Az adatgyűjtő alkalmazás közli a felhasználókkal a kép létrehozásának dátumát, időpontját, helyét és eszközét, és digitális aláírással ellenőrzi, hogy a kép természetes vagy mesterséges intelligencia által generált.

Hamis fotó terjed a Twitteren a Pentagon robbanásáról

A 2015-ben alapított, Microsoft által támogatott Truepic azt nyilatkozta, hogy a cég iránt civil szervezetek és médiacégek, sőt még a biztosítók is érdeklődnek, akik jogosnak kívánják megerősíteni a kárigényeket.

McGregor azt mondja, hogy amikor mindent hamisítani lehet, amikor a mesterséges intelligencia elérte a minőség és a hozzáférhetőség csúcsát, akkor már nem tudjuk, mi a valóság online.

Az olyan techcégek, mint a Truepic, évek óta dolgoznak az online félretájékoztatás elleni küzdelemen. De az újfajta mesterséges intelligencia eszközök megjelenése, amelyek képesek képeket és szöveget generálni felhasználó parancsára, még sürgetőbbé teszi a helyzetet. Idén év elején széles körben elterjedtek Ferenc pápa Balenciaga pehelykabátos, illetve Donald Trump volt amerikai elnök letartóztatásáról készült hamis képek. Mindkét incidens több millió embert zavart össze a mesterséges intelligencia lehetséges veszélyeivel kapcsolatban.

Egyes törvényhozók most arra kérik a technológiai vállalatokat, hogy a mesterséges intelligencia által generált tartalmak címkézésével foglalkozzanak a problémával. Věra Jourová, az Európai Bizottság (EB) alelnöke elmondta, hogy olyan vállalatok, mint a Google, a Meta, a Microsoft és a TikTok, csatlakoztak az Európai Unió (EU) dezinformáció elleni küzdelemről szóló önkéntes gyakorlati kódexéhez.

Egyre több startup és techóriás, köztük néhány, amely generatív mesterséges intelligenciát alkalmaz termékeiben, próbál szabványokat és megoldásokat bevezetni, amelyek segítenek az embereknek megállapítani, hogy egy képet vagy videót mesterséges intelligenciával készítettek-e.

De mivel a mesterséges intelligencia technológiája gyorsabban fejlődik, mint ahogy az emberek lépést tudnak tartani vele, nem világos, hogy ezek a megoldások teljes mértékben megoldják-e a problémát. Még az OpenAI, a Dall-E és a ChatGPT mögött álló vállalat is elismerte, hogy a mesterséges intelligencia által generált írás észlelésére irányuló saját erőfeszítései sem tökéletesek.

A megoldásokat fejlesztő vállalatok kétféleképpen közelítik meg a problémát. Az első olyan programok fejlesztésén alapul, amelyek azonosítják a mesterséges intelligencia által generált képeket, miután azokat elkészítették és online megosztották. A másik arra összpontosít, hogy egy képet valódiként vagy mesterséges intelligencia által generáltként jelöljön meg egyfajta digitális aláírással.

A Reality Defender és a Hive Moderation az elsőn dolgozik. Platformjukon a felhasználók feltölthetnek képeket szkennelésre, majd egy lebontást kapnak, amely százalékban mutatja, hogy a fotó valódi vagy mesterséges intelligencia által generált.

A Reality Defender azt állította, hogy saját fejlesztésű deepfake és generatív tartalom-ujjlenyomat-technológiát használ a mesterséges intelligencia által generált videók, hanganyagok és képek észlelésére. A vállalat által bemutatott példában a Reality Defender bemutatott egy Tom Cruise deepfake képét, amely 53%-ban „gyanús” volt, mivel a képen látható személynek torz arca volt, ami gyakran látható a manipulált fotókon.

Mesterséges intelligencia által generált címkézett képek

Ezek a szolgáltatások ingyenes és fizetős verziókat is kínálnak. A Hive Moderation azt állítja, hogy 1,50 dollárt kér 1000 képért. A Realty Defender szerint az árazás számos tényezőtől függően változhat, olyan esetekben, amikor az ügyfeleknek szükségük van a cég szakértelmére és támogatására. Ben Colman, a Reality Defender vezérigazgatója szerint a kockázat havonta megduplázódik, mivel bárki készíthet hamis fényképeket mesterséges intelligencia eszközök segítségével.

Több másik vállalat is dolgozik azon, hogy egyfajta címkét adjon a képekhez, amely igazolja, hogy azok valódiak vagy mesterséges intelligencia által generáltak. Eddig a fejlesztést nagyrészt a Content Authenticity and Origination Alliance (C2PA) vezérelte.

A C2PA-t 2021-ben alapították azzal a céllal, hogy technikai szabványt hozzanak létre a digitális média eredetének és történetének tanúsítására, ötvözve az Adobe Content Authentication Initiative (CAI) és a Microsoft, valamint a BBC által vezetett Project Origin programjait, a digitális hírekben megjelenő félretájékoztatás elleni küzdelemre összpontosítva. A C2PA-ban részt vevő egyéb vállalatok közé tartozik a Truepic, az Intel és a Sony.

A C2PA alapelvei alapján a CAI nyílt forráskódú eszközöket fog kiadni a vállalatok számára, amelyekkel tartalomadatokat, vagyis metaadatokat hozhatnak létre, amelyek információkat tartalmaznak a képekről. A CAI weboldala szerint ez lehetővé teszi az alkotók számára, hogy átláthatóan megosszák a képkészítési mód részleteit. Így a végfelhasználók hozzáférhetnek ahhoz a kontextushoz, hogy ki, mit és hogyan módosított a kép – majd maguk ítélhetik meg, mennyire hiteles a kép.

Sok vállalat már integrálta a C2PA szabványt és a CAI eszközöket az alkalmazásaiba. Az Adobe Firefly, a Photoshophoz hozzáadott új mesterséges intelligencia alapú képalkotó eszköze, a Content Credentials funkcióján keresztül megfelel a C2PA szabványnak. A Microsoft azt is bejelentette, hogy a Bing Image Creatorral és a Microsoft Designerrel létrehozott képek és videók a következő hónapokban kriptográfiai aláírással fognak rendelkezni.

Májusban a Google bejelentette az „About This Image” (Képről) funkciót, amely lehetővé teszi a felhasználók számára, hogy megnézzék, mikor jelent meg először egy kép a Google-ben, és hol látható. A keresőóriás azt is bejelentette, hogy minden, a Google mesterséges intelligencia által generált kép eredeti fájljában egy jelölőkód szerepel majd, amely „kontextust” ad, ha a kép egy másik weboldalon vagy platformon található.

Miközben a technológiai vállalatok megpróbálják kezelni a mesterséges intelligencia által generált képekkel és a digitális média integritásával kapcsolatos aggályokat, a terület szakértői hangsúlyozzák, hogy a vállalkozásoknak együtt kell működniük egymással és a kormányokkal a probléma megoldása érdekében. A technológiai vállalatok mégis versenyt futnak a mesterséges intelligencia fejlesztéséért a kockázatok ellenére.

[hirdetés_2]
Forráslink