Experter rekommenderar att man förbereder ett krishanteringsscenario specifikt för deepfakes

Vad säger experter om termen deepfake och det senaste problemet med att sprida falska nakenbilder på kändisar, som sångerskan Taylor Swift på X...

Nedan följer åsikter från två experter från RMIT University om de skadliga effekterna av deepfakes och förslag på lösningar på detta problem:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (vänster) och Dr. Nguyen Van Thang Long (höger). (Källa: RMIT University)

Cyberbrottslingar utnyttjar ny teknik på oförutsedda sätt

Dr. Jonathan Crellin, chef för informationssäkerhet, fakulteten för naturvetenskap , teknik och teknik, RMIT University :

Deepfake är en maskingenererad bild som kan kombinera bilder eller videor från flera källor och skapa en mycket realistisk bild, video eller till och med ljud.

Deepfake förlitar sig på en teknik inom AI som kallas maskininlärning, som kan ersätta och integrera element som en persons ansikte i en annan bild eller video.

Ett exempel på användning av deepfakes är att kombinera pornografiskt innehåll med foton på Taylor Swift för att skapa falska bilder.

För att göra detta behövde hjärnan ett antal bilder så att programvaran kunde lära sig om den kvinnliga sångerskans ansiktsuttryck och sedan kombinera dem med pornografiskt innehåll för att skapa obscena foton, vilket skulle skada den kvinnliga sångerskans image.

Det ryktas faktiskt att dessa foton släpptes av en Telegram-grupp och skapades med hjälp av Microsoft Designer-verktyget med integrerat AI-stöd.

Vem som helst kan bli ett offer, eftersom skurkarna bara behöver en bild, video eller ljudinspelning av personen som utges för.

Falska nyheter i många former har potential att användas för att skapa falska nyheter, och man kan lugnt säga att det kommande amerikanska presidentvalet kommer att vara fyllt av sådana falska nyheter.

För närvarande försöker lagstiftare runt om i världen stifta lagar mot den här typen av bilder.

Flera tillvägagångssätt börjar antas i USA när det gäller lagstiftning, såsom att förlita sig på civilrättsliga stämningar eller lagar för att hantera "spridning av sexuellt explicita bilder av en person som genereras av AI utan den personens samtycke".

Kina införde också nya regler som skulle möjliggöra åtal mot de som sprider AI-genererade bilder.

Storbritannien har förbjudit delning av deepfake-innehåll enligt sin lag om säkerhet online.

Hur kan man upptäcka eller förebygga detta?

Det första steget är att minska antalet foton, videor eller ljudinspelningar du har online. Se till att du bara delar dem med personer du känner, inte publicerar dem i stor skala online. När något väl finns på internet är det nästan omöjligt att ta bort det.

Det andra sättet är att komma överens om ett hemligt ord med din familj för att autentisera samtalet, vilket minskar risken för att falla i fällan med ett falskt samtal.

Bilder, särskilt videor, kan ha konstiga (iscensatta) fel. Om du upptäcker dessa fel finns det en stor risk att bilden eller ljudet har förfalskats.

En annan teknik som kan användas är att söka efter ”omvänd bild” på Google eller andra sökmotorer för att fastställa källan till originalbilden.

Den sista lärdomen är att inte blint tro på vad du ser, kameran (eller AI:n) kan ljuga!

Deepfakes utgör ett stort hot mot kändisar och politiker

Dr. Nguyen Van Thang Long, universitetslektor, fakulteten för kommunikation och design, RMIT-universitetet :

Med spridningen av falska nyheter från deepfakes behöver medieteam bestående av kändisar och politiker ha resurser tillgängliga för att övervaka och snabbt reagera på falska nyheter eller kontinuerligt korrigera falska nyheter.

Om deepfakes systematiskt kombineras med organiserade former av ”smutsig PR” blir denna uppgift ännu svårare på grund av spridningen av motstridig information, och falska nyheter och negativa nyheter kommer alltid att delas mer än positiva nyheter.

Vanligtvis, när man ser nyheter som delas på sociala nätverk, har individer ofta för vana att verifiera information via officiella mediekanaler.

Med djupförfalskt innehåll som översvämmar sociala medier blir det allt svårare och tidskrävande att verifiera riktigheten i etablerade nyheter, vilket kräver djupgående research och verifieringstekniker.

Ju längre vi dröjer med att verifiera nyheter och källor, desto mer sannolikt är det att falsk, fabricerad eller vilseledande information sprids på grund av den snabba hastigheten på delning och kommentarer på sociala medier.

Detta förvärrar det underliggande problemet och kan potentiellt leda till social oro, särskilt om innehållet relaterar till politiska uttalanden, religion, kön, affärsstrategier eller makroekonomiska frågor.

I samband med spridning av djupförfalskningar är den mest effektiva riskhanteringsstrategin fortfarande att upprätthålla konsekventa kommunikationskanaler, via populära sociala medieplattformar, webbplatser eller personliga möten, mellan företag, kändisar, politiker och viktiga intressenter såsom fans, press, communities och anställda.

Den ökade användningen av AI medför både fördelar och oväntade nya problem. Illustrationsfoto. (Källa: Freepik)

Genom att upprätthålla dessa kommunikationskanaler blir det snabbare att ta emot information relaterad till deepfakes, vilket möjliggör snabb och effektiv rykteskorrigering och avslöjar felinformation redan från början.

Företag, kändisar och politiker behöver dock utveckla en krishanteringsplan specifikt för deepfakes. Till exempel vem som rapporterar, genom vilka mediekanaler, kriterier för att verifiera information genom bevis och pålitliga källor, fastställa en tidslinje för hantering av rykten och beskriva en strategi för att återställa ett anseende.

Med en väl förberedd och metodisk plan blir det mer genomförbart att hantera deepfake-krisen, vilket minimerar de olyckliga konsekvenser som kan uppstå.

[annons_2]
Källa