Wojna Izraela z Hamasem: Zagrożenie ze strony fałszywych obrazów generowanych przez sztuczną inteligencję

[reklama_1]

Jak działają fałszywe obrazy AI?

Sztuczna inteligencja jest dziś wszechobecna – nawet na wojnie. Zastosowania sztucznej inteligencji rozwinęły się w tym roku tak bardzo, że niemal każdy może używać generatorów AI do tworzenia obrazów, które wyglądają realistycznie, przynajmniej na pierwszy rzut oka.

Wojna z Hamasem w Izraelu jest zagrożona przez te fałszywe zdjęcia stworzone przez kogoś. Zdjęcie 1 — Wygenerowane przez sztuczną inteligencję fałszywe zdjęcie wojny w Strefie Gazy.

Aby to zrobić, użytkownicy po prostu udostępniają narzędzia takie jak Midjourney lub Dall-E z kilkoma podpowiedziami, zawierającymi specyfikacje i informacje. Narzędzia AI następnie konwertują podpowiedzi tekstowe, a nawet głosowe, na obrazy.

Proces generowania obrazu opiera się na uczeniu maszynowym. Na przykład, jeśli twórca poprosi o pokazanie 70-letniego mężczyzny jadącego na rowerze, przeszuka swoją bazę danych, aby dopasować terminy do obrazów.

Na podstawie dostępnych informacji algorytm sztucznej inteligencji wygeneruje obraz starszego rowerzysty. Dzięki coraz większej liczbie danych wejściowych i aktualizacji technicznych, narzędzia te znacznie się udoskonaliły i stale się uczą.

Wszystko to dotyczy obrazów związanych z konfliktem na Bliskim Wschodzie. W konflikcie, w którym „emocje sięgają zenitu”, dezinformacja, w tym rozpowszechniana za pośrednictwem obrazów AI, ma ogromny wpływ, mówi ekspert ds. sztucznej inteligencji Hany Farid.

Farid, profesor analityki cyfrowej na Uniwersytecie Kalifornijskim w Berkeley, powiedział, że zacięte bitwy stanowią doskonałą pożywkę dla tworzenia i rozpowszechniania fałszywych treści, a także podsycania emocji.

Rodzaje obrazów AI wojny Izraela z Hamasem

Zdjęcia i filmy stworzone przy pomocy sztucznej inteligencji podsycają dezinformację związaną z wojną na Ukrainie i to zjawisko nadal występuje w przypadku wojny Izraela z Hamasem.

Według ekspertów, obrazy wojny krążące w mediach społecznościowych, tworzone przez sztuczną inteligencję, często dzielą się na dwie kategorie. Jedna koncentruje się na cierpieniu ludzi i budzi współczucie. Druga to fałszywa sztuczna inteligencja, która wyolbrzymia wydarzenia, podsycając w ten sposób konflikty i eskalując przemoc.

Wojna z Hamasem w Izraelu jest zagrożona przez te fałszywe zdjęcia stworzone przez kogoś. Zdjęcie 2 — Sztuczna inteligencja wygenerowała fałszywe zdjęcie ojca i dziecka wśród gruzów w Strefie Gazy.

Na przykład, do pierwszej kategorii należy powyższe zdjęcie ojca z pięciorgiem dzieci przed stertą gruzu. Zostało ono wielokrotnie udostępnione na X (dawniej Twitterze) i Instagramie i wyświetlone setki tysięcy razy.

Ten obraz został oznaczony przez społeczność, przynajmniej na X, jako fałszywy. Można go rozpoznać po różnych błędach i nieścisłościach, typowych dla obrazów AI (patrz obraz powyżej).

Podobne anomalie można dostrzec także na fałszywym obrazie sztucznej inteligencji, który stał się popularny pod adresem X poniżej. Obraz ten rzekomo przedstawia palestyńską rodzinę jedzącą wspólnie posiłek na ruinach.

Wojna z Hamasem w Izraelu jest zagrożona przez te fałszywe zdjęcia stworzone przez kogoś, zdjęcie nr 3 — Fałszywe zdjęcie palestyńskiej partii wygenerowane przez sztuczną inteligencję.

Tymczasem inne zdjęcie, na którym widać żołnierzy machających izraelskimi flagami podczas przechodzenia przez osiedle pełne zbombardowanych domów, należy do drugiej kategorii, mającej na celu podsycanie nienawiści i przemocy.

Skąd biorą się takie obrazy AI?

Większość obrazów konfliktów generowanych przez sztuczną inteligencję jest publikowana w mediach społecznościowych, ale są one dostępne również na wielu innych platformach i w wielu organizacjach, a nawet w niektórych serwisach informacyjnych.

Firma programistyczna Adobe zyskała rozgłos, dodając do swojej oferty stockowej obrazy generowane przez sztuczną inteligencję do końca 2022 roku. Zostaną one odpowiednio oznaczone w bazie danych.

Adobe oferuje teraz także sprzedaż obrazów wojny na Bliskim Wschodzie wykonanych przy użyciu sztucznej inteligencji — na przykład eksplozji, protestujących ludzi czy kłębów dymu za meczetem Al-Aksa.

Wojna z Hamasem w Izraelu jest zagrożona przez te fałszywe zdjęcia stworzone przez kogoś, zdjęcie nr 4 — Adobe oferuje obrazy walk w Strefie Gazy wygenerowane przez sztuczną inteligencję.

Krytycy uznali to za niepokojące, ponieważ niektóre strony nadal używają tych zdjęć, nie oznaczając ich jako wygenerowanych przez sztuczną inteligencję. Na przykład, zdjęcie, o którym mowa, pojawiło się na stronie „Newsbreak” bez żadnej informacji, że zostało wygenerowane przez sztuczną inteligencję.

Nawet Europejska Służba Badawcza Parlamentu, naukowy organ Parlamentu Europejskiego, zilustrowała internetowy tekst o konflikcie na Bliskim Wschodzie obrazem stworzonym przez sztuczną inteligencję z bazy danych Adobe — nie oznaczając go jednak jako wygenerowanego przez sztuczną inteligencję.

Europejskie Obserwatorium Mediów Cyfrowych apeluje do dziennikarzy i pracowników mediów o zachowanie szczególnej ostrożności przy korzystaniu z obrazów wytwarzanych przez sztuczną inteligencję, odradzając ich stosowanie, zwłaszcza w przypadku relacjonowania rzeczywistych wydarzeń, takich jak wojna w Strefie Gazy.

Jak niebezpieczne są obrazy AI?

Wirusowe treści i obrazy oparte na sztucznej inteligencji z pewnością sprawią, że użytkownicy poczują się nieswojo w związku z wszystkim, co napotkają w sieci. „Jeśli wejdziemy w świat, w którym obrazy, dźwięk i wideo mogą być manipulowane , wszystko staje się podejrzane” – wyjaśnia Farid, badacz z Uniwersytetu Kalifornijskiego w Berkeley. „W ten sposób tracimy zaufanie do wszystkiego, w tym do prawdy”.

Dokładnie to miało miejsce w następującym przypadku: zdjęcie przedstawiające prawdopodobnie zwęglone zwłoki izraelskiego dziecka zostało udostępnione w mediach społecznościowych przez premiera Izraela Benjamina Netanjahu i kilku innych polityków.

Influencer antyizraelski, Jackson Hinkle, twierdził później, że zdjęcie zostało stworzone przy użyciu sztucznej inteligencji. Oświadczenie Hinkle'a zostało wyświetlone ponad 20 milionów razy w mediach społecznościowych i wywołało ożywioną debatę na platformie.

Ostatecznie liczne organizacje i narzędzia weryfikacyjne uznały zdjęcie za autentyczne, a twierdzenie Hinkle'a za fałszywe. Oczywiste jest jednak, że żadne narzędzie nie pomoże użytkownikom łatwo odzyskać utraconego zaufania!

Hoang Hai (według DW)

Źródło