Använda AI-verktyg för att åtgärda AI-baserade produktfel

Falska nyheter blir mer sofistikerade med AI-manipulation

Nyligen, vid mötet mellan Vietnams journalistförbund och Thailändska journalistförbund i Hanoi, ägnade ledarna för de två föreningarna större delen av sin tid åt att nämna problemet med "falska nyheter" och uppgav att detta inte längre är ett nationellt problem utan ett stort problem som orsakar oförutsägbara effekter i regionen och världen.

Att skapa bilder, videor och ljud som imiterar människor är nästan dubbelt så vanligt som att skapa felinformation med hjälp av verktyg som AI-chattrobotar, enligt forskning från Google DeepMind.

Deepfakes av den brittiske premiärministern Rishi Sunak och andra globala ledare har dykt upp på TikTok, X och Instagram de senaste månaderna, med oro för att trots sociala nätverks ansträngningar att märka eller ta bort innehållet, kanske publiken inte uppfattar det som falskt och att dess spridning kan påverka väljarna.

Förfalskningar av den brittiske premiärministern Rishi Sunak har dykt upp på TikTok och Instagram inför det allmänna valet. (Foto: AFP)

I en bedömning av effekterna av falska nyheter i teknologieran sade Luong Dong Son, föreläsare vid Institutet för journalistik och kommunikation, Akademin för journalistik och propaganda, att produkten av kombinationen av AI och desinformation, även känd som surrealistiska falska nyheter, kan snedvrida allmänhetens uppfattning om händelser och sociala frågor, och därigenom påverka hur de bedömer situationen och fattar beslut. Detta kan få allvarliga konsekvenser, från små personliga beslut till viktiga beslut som påverkar samhället och landet.

Hyperfalska nyheter kan användas som ett verktyg för att manipulera den allmänna opinionen, uppvigla våld, så splittring och undergräva social stabilitet. På den politiska arenan kan hyperfalska nyheter urholka förtroendet för demokratiska institutioner, påverka valresultat och till och med uppvigla till konflikter.

Angående utmaningarna för journalister och pressorganisationer sa magister Luong Dong Son att sofistikeringen av surrealistiska falska nyheter, särskilt deepfakes, gör det allt svårare att skilja mellan verkliga och falska nyheter, även för erfarna journalister.

"I informationsexplosionens tid kräver allmänheten alltmer att journalister och nyhetsorganisationer tillhandahåller information snabbt och korrekt. Denna press kan dock leda till att journalister hastigt publicerar information utan noggrann verifiering, vilket skapar möjligheter för surrealistiska falska nyheter att spridas. Dessutom står journalister och nyhetsorganisationer inför juridiska och etiska risker om de inte är noggranna med att verifiera och publicera information", sa Son.

Få AI att verifiera information

Enligt magisterexamen Luong Dong Son är det oerhört nödvändigt att tillämpa moderna tekniska lösningar för att hantera den här typen av falska nyheter.

”Dessa lösningar fokuserar inte bara på att upptäcka och eliminera falska nyheter utan också på att förhindra dem redan från ett tidigt produktionsskede”, säger magisterexamen Dong Son.

För det första är en av de viktigaste teknologierna idag, enligt Son, att använda artificiell intelligens för att upptäcka falska nyheter. Moderna AI-system kan analysera sammanhang, jämföra information från flera källor och upptäcka avvikelser i informationsinnehåll. Ett typiskt exempel är att använda AI för att analysera videor och bilder för att upptäcka tecken på redigering eller produktion med hjälp av deepfake-teknik.

Dessutom använder sociala medieplattformar och sökmotorer aktivt maskininlärningsalgoritmer för att automatiskt klassificera och filtrera bort falskt nyhetsinnehåll innan det blir viralt. Dessa algoritmer är utformade för att känna igen avvikelser i delningsmönster, spridningshastighet eller till och med tonen i inlägg, och därigenom bedöma sannolikheten för att informationen är falsk.

Dessutom är användningen av blockkedjeteknik för att hantera informationens ursprung också en potentiell lösning. Blockkedjeteknik har förmågan att skapa ett transparent och oföränderligt autentiseringssystem, vilket bidrar till att spåra ursprunget och historiken för all information, vilket säkerställer noggrannhet och tillförlitlighet.

AI kan skapa falskt innehåll eller vilseledande information och bilder som är svåra att urskilja, vilket orsakar stor skada på individers och organisationers rykte, och till och med skadar nationella och etniska intressen.

Phan Van Tu, chef för institutionen för journalistik – fakulteten för journalistik och kommunikation, universitetet för samhällsvetenskap och humaniora i Ho Chi Minh-staden, delar samma åsikt med magisterexamen Luong Dong Son och betonade att vi, förutom att tillhandahålla färdigheter för att utnyttja AI:s styrkor för journalistiken, också behöver använda AI-verktyg för att verifiera information.

Källverifiering, vilket i huvudsak handlar om att bedöma en källas tillförlitlighet, är en viktig färdighet som innebär att verifiera informationskällan, jämföra den med andra källor och använda faktagranskningsverktyg för att kontrollera tillförlitligheten.

Det intressanta är att det för närvarande finns många AI-integrerade verktyg som stöder journalister i verifieringsprocessen utöver traditionella verktyg som stöder faktagranskare som Google Image, Tineye omvänd bildsökning, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

Phan Van Tu sa att utbildningen av journalisters yrkeskunskaper under den nuvarande perioden kräver att man uppmärksammar att tillhandahålla kapacitet för informationsverifiering mot attacker av falska nyheter som manipuleras av AI. ”Att använda AI-verktyg för att hantera AI-relaterade fel är det snabbaste sättet att hjälpa journalister och pressbyråer att inte bara utföra sina roller väl utan också bidra till att förbättra informationskvaliteten och skydda allmänheten från falsk information och negativ påverkan från media”, sa Tu.

Tu påpekade dock också att journalisters förmåga att bedöma information inte kan förlita sig enbart på verktyg. Det måste sägas direkt att AI kan stödja analys av nyhetsinnehåll men inte kan upptäcka alla typer av falska nyheter och manipulerad information. AI-programvara kan fortfarande luras av de AI-tekniker den använder för att upptäcka.

”Inget verktyg är en trollstav, men AI-verktyg som upptäcker falska foton/videor är fortfarande en värdefull resurs som en del av en verifieringsprocess eller due diligence-metod”, sa Phan Van Tu.

Hoa Giang

Källa: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html