Israel-Hamas krig: Fara från AI-genererade falska bilder

Hur fungerar falska AI-bilder?

AI finns överallt nuförtiden – även i krig. Tillämpningar inom artificiell intelligens har förbättrats så mycket i år att nästan vem som helst kan använda AI-generatorer för att skapa bilder som ser realistiska ut, åtminstone vid första anblicken.

Ett AI-genererat falskt foto av kriget i Gaza.

Användare förser helt enkelt verktyg som Midjourney eller Dall-E med några få uppmaningar, inklusive specifikationer och information, för att göra detta. AI-verktygen konverterar sedan text-, eller till och med röst-, uppmaningarna till bilder.

Denna bildgenereringsprocess är baserad på det som kallas maskininlärning. Om en skapare till exempel ber om att visa en 70-årig man som cyklar, kommer de att söka i sin databas för att matcha termer med bilder.

Baserat på tillgänglig information kommer AI-algoritmen att generera en bild av den äldre cyklisten. Med fler och fler input och tekniska uppdateringar har dessa verktyg förbättrats avsevärt och lär sig ständigt.

Allt detta tillämpas på bilder relaterade till konflikten i Mellanöstern. I en konflikt där "känslorna är så höga" har felinformation, inklusive spridning via AI-bilder, en enorm inverkan, säger AI-experten Hany Farid.

Farid, professor i digital analys vid University of California i Berkeley, sa att hårda strider är den perfekta grogrunden för att skapa och sprida falskt innehåll, samt ge näring åt känslor.

Typer av AI-bilder av Israel-Hamas-kriget

Bilder och videor skapade med hjälp av artificiell intelligens har gett näring åt desinformation relaterad till kriget i Ukraina, och det fortsätter att hända i kriget mellan Israel och Hamas.

Enligt experter faller AI-bilder som cirkulerar på sociala medier om krig ofta i två kategorier. Den ena fokuserar på människors lidande och väcker sympati. Den andra är falsk AI som överdriver händelser och därigenom uppviglar till konflikter och eskalerar våldet.

AI-genererat falskt foto av far och barn i ruinerna i Gaza.

Till exempel inkluderar den första kategorin bilden ovan på en far och hans fem barn framför en hög med spillror. Den delades flera gånger på X (tidigare Twitter) och Instagram och visades hundratusentals gånger.

Den här bilden har flaggats av communityn, åtminstone på X, som en förfalskning. Den kan kännas igen genom olika fel och inkonsekvenser som är vanliga för AI-bilder (se bilden ovan).

Liknande avvikelser kan också ses i den falska AI-bilden som blev viral på X nedan, vilken påstås visa en palestinsk familj som äter tillsammans på ruinerna.

AI-genererat falskt foto av palestinskt parti.

Samtidigt faller en annan bild som visar trupper som viftar med israeliska flaggor när de passerar genom en bosättning fylld med sönderbombade hus in i den andra kategorin, utformad för att uppvigla hat och våld.

Varifrån kommer sådana AI-bilder?

De flesta AI-genererade bilder av konflikter publiceras på sociala medieplattformar, men de finns också tillgängliga på ett antal andra plattformar och organisationer, och till och med på vissa nyhetssajter.

Programvaruföretaget Adobe har skapat rubriker genom att lägga till AI-genererade bilder i sitt utbud av stockbilder i slutet av 2022. De kommer att märkas i enlighet med detta i databasen.

Adobe erbjuder nu också AI-bilder av kriget i Mellanöstern till salu – som explosioner, protester eller rökplymer bakom al-Aqsa-moskén.

Adobe erbjuder AI-genererade bilder av striderna i Gaza.

Kritiker har funnit detta oroande, eftersom vissa webbplatser har fortsatt att använda bilderna utan att märka dem som AI-genererade. Bilden i fråga, till exempel, dök upp på sidan "Newsbreak" utan någon indikation på att den var AI-genererad.

Till och med Europaparlamentets forskningstjänst, Europaparlamentets vetenskapliga gren, illustrerade en onlinetext om konflikten i Mellanöstern med en AI-bild från Adobes databas – utan att märka den som AI-genererad.

Europeiska observatoriet för digitala medier uppmanar journalister och medieproffs att vara ytterst försiktiga när de använder AI-bilder och avråder från deras användning, särskilt när de bevakar verkliga händelser som kriget i Gaza.

Hur farliga är AI-bilder?

Det virala AI-innehållet och bilderna kommer garanterat att få användarna att känna sig illa till mods inför allt de stöter på online. ”Om vi ​​kommer in i den här världen där bilder, ljud och video kan manipuleras blir allt misstänkt”, förklarar forskaren Farid vid UC Berkeley. ”Så förlorar man förtroendet för allt, inklusive sanningen.”

Det var precis vad som hände i följande fall: En bild på vad som tros vara det förkolnade liket av ett israeliskt spädbarn delades på sociala medier av Israels premiärminister Benjamin Netanyahu och flera andra politiker.

En anti-israelisk influencer, Jackson Hinkle, hävdade senare att bilden skapades med hjälp av artificiell intelligens. Hinkles uttalande visades mer än 20 miljoner gånger på sociala medier och ledde till hetsig debatt på plattformen.

I slutändan förklarade ett flertal organisationer och verifieringsverktyg att bilden var verklig och Hinkles påstående var falskt. Det är dock tydligt att inget verktyg kan hjälpa användare att enkelt återfå sitt förlorade förtroende!

Hoang Hai (enligt DW)

Källa: https://www.congluan.vn/chien-su-israel--hamas-moi-nguy-tu-nhung-hinh-anh-gia-mao-do-ai-tao-ra-post271979.html