Izrael-Hamasz háború: Veszély a mesterséges intelligencia által generált hamis képekből

[hirdetés_1]

Hogyan működnek a hamis mesterséges intelligencia által létrehozott képek?

Manapság mindenhol jelen van a mesterséges intelligencia – még a háborúkban is. A mesterséges intelligencia alkalmazásai idén annyit fejlődtek, hogy szinte bárki használhat MI-generátorokat olyan képek létrehozására, amelyek legalábbis első pillantásra realisztikusnak tűnnek.

Izrael Hamász elleni háborúja veszélyben van ezek miatt a hamis képek miatt, amiket valaki készített. 1. kép — Egy mesterséges intelligencia által generált hamis fotó a gázai háborúról.

A felhasználók egyszerűen megadnak néhány utasítást, beleértve a specifikációkat és az információkat is, olyan eszközöknek, mint a Midjourney vagy a Dall-E. A mesterséges intelligencia eszközei ezután a szöveges, vagy akár hangalapú utasításokat képekké alakítják.

Ez a képgenerálási folyamat az úgynevezett gépi tanuláson alapul. Például, ha egy alkotó azt kéri, hogy ábrázoljon egy 70 éves férfit biciklizés közben, akkor az adatbázisában keresni fogja a képekhez illő kifejezéseket.

A rendelkezésre álló információk alapján a mesterséges intelligencia algoritmusa egy idős kerékpáros képét fogja generálni. Az egyre több bemenetnek és technikai frissítésnek köszönhetően ezek az eszközök jelentősen fejlődtek és folyamatosan tanulnak.

Mindezt a közel-keleti konfliktussal kapcsolatos képekre alkalmazzák. Egy olyan konfliktusban, ahol „az érzelmek annyira felhevültek”, a félretájékoztatásnak, beleértve a mesterséges intelligencia által készített képeken keresztül terjedőt is, óriási hatása van – mondja Hany Farid mesterséges intelligencia szakértő.

Farid, a Kaliforniai Egyetem (Berkeley) digitális elemző professzora szerint az ádáz csaták tökéletes táptalajt jelentenek a hamis tartalmak létrehozásának és terjesztésének, valamint az érzelmek szításának.

Az izraeli-hamász háború mesterséges intelligencia által készített képeinek típusai

A mesterséges intelligencia segítségével létrehozott képek és videók táplálták az ukrajnai háborúval kapcsolatos dezinformációt, és ez továbbra is előfordul az izraeli-hamász háborúban.

Szakértők szerint a közösségi médiában keringő, háborúról szóló mesterséges intelligencia által készített képek gyakran két kategóriába sorolhatók. Az egyik az emberek szenvedésére összpontosít és együttérzést kelt. A másik egy hamis mesterséges intelligencia, amely eltúlozza az eseményeket, ezáltal konfliktusokat szít és fokozza az erőszakot.

Izrael Hamász elleni háborúját veszélybe sodorták ezek a hamis képek, amiket valaki készített. 2. kép — Mesterséges intelligencia által generált hamis fotó apáról és gyermekéről a gázai romok között.

Például az első kategóriába tartozik a fenti fotó, amelyen egy apa és öt gyermeke látható egy romhalmaz előtt. A fotót többször is megosztották az X-en (korábban Twitter) és az Instagramon, és több százezer alkalommal tekintették meg.

Ezt a képet a közösség, legalábbis az X-en, hamisítványként jelölte meg. Felismerhető a mesterséges intelligencia által készített képekre jellemző különféle hibákról és következetlenségekről (lásd a fenti képet).

Hasonló anomáliák figyelhetők meg az alábbi X-en virálissá vált hamis mesterséges intelligencia képen is, amely állítólag egy palesztin családot ábrázol, amint együtt esznek a romokon.

Izrael Hamász elleni háborúja veszélyben van ezek miatt a hamis képek miatt, amelyeket valaki készített, 3. kép — Mesterséges intelligencia által generált hamis fotó egy palesztin pártról.

Eközben egy másik kép, amelyen izraeli zászlókat lengető katonák láthatók, amint áthaladnak egy lebombázott házakkal teli településen, a második kategóriába tartozik, és a gyűlöletet és az erőszakot hivatott szítani.

Honnan származnak az ilyen mesterséges intelligencia által készített képek?

A konfliktusokról készült mesterséges intelligencia által generált képek többsége közösségi média platformokon jelenik meg, de számos más platformon és szervezeten, sőt néhány hírportálon is elérhetők.

Az Adobe szoftvercég azzal került a címlapokra, hogy 2022 végére mesterséges intelligencia által generált képeket vett fel stockfotó-kínálatába. Ezeket ennek megfelelően fogják címkézni az adatbázisban.

Az Adobe mostantól eladásra kínál mesterséges intelligencia által készített képeket a közel-keleti háborúról – például robbanásokat, tüntetőket vagy füstfelhőket az Al-Aksza-mecset mögött.

Izrael Hamász elleni háborúja veszélyben van ezek miatt a hamis képek miatt, amelyeket valaki készített, 4. kép — Az Adobe mesterséges intelligencia által generált képeket kínál a gázai harcokról.

A kritikusok ezt aggasztónak találták, mivel egyes oldalak továbbra is felhasználták a képeket anélkül, hogy mesterséges intelligencia által generáltként jelölték volna meg őket. A szóban forgó kép például a „Hírek” oldalon jelent meg anélkül, hogy bármilyen jelzés lett volna arra, hogy mesterséges intelligencia által generált.

Még az Európai Parlament tudományos szervezete, az Európai Parlament Kutatószolgálata is illusztrált egy online szöveget a közel-keleti konfliktusról egy, az Adobe adatbázisából származó mesterséges intelligencia által generált képpel – anélkül, hogy mesterséges intelligencia által generáltként jelölte volna meg.

Az Európai Digitális Média Megfigyelőközpontja arra kéri az újságírókat és a médiaszakembereket, hogy legyenek rendkívül óvatosak a mesterséges intelligencia által készített képek használatakor, és nem tanácsolja azok használatát, különösen a valós események, például a gázai háború tudósítása során.

Mennyire veszélyesek a mesterséges intelligencia által készített képek?

A virálisan terjedő mesterséges intelligencia által közvetített tartalmak és képek minden bizonnyal nyugtalanító érzést keltenek a felhasználókban mindennel kapcsolatban, amivel online találkoznak. „Ha belépünk ebbe a világba, ahol a képeket, hanganyagokat és videókat manipulálni lehet , minden gyanússá válik” – magyarázza Farid, a UC Berkeley kutatója. „Így elveszítjük a bizalmunkat mindenben, beleértve az igazságot is.”

Pontosan ez történt a következő esetben is: Benjamin Netanjahu izraeli miniszterelnök és több más politikus is megosztott egy képet egy feltehetően elszenesedett izraeli csecsemő holttestéről a közösségi médiában.

Egy Izrael-ellenes influenszer, Jackson Hinkle később azt állította, hogy a képet mesterséges intelligencia segítségével készítették. Hinkle nyilatkozatát több mint 20 milliószor tekintették meg a közösségi médiában, és heves vitát váltott ki a platformon.

Végül számos szervezet és ellenőrző eszköz kijelentette, hogy a kép valódi, és Hinkle állítása hamis. Az azonban egyértelmű, hogy egyetlen eszköz sem segíthet a felhasználóknak könnyen visszaszerezni az elvesztett bizalmukat!

Hoang Hai (a DW szerint)

[hirdetés_2]
Forrás