AI-foton och videor översvämmar Facebook: Till synes ofarliga men extremt farliga

När hon tittade igen insåg hon att det bara var ett AI-foto som använts av en Facebooksida för att illustrera ett sentimentalt inlägg. Det är värt att nämna att det här var andra gången hon "nästan" blev lurad av AI. Innan dess misstog hon också videon "'pensionärer' som träffar 'sommarsemesterfirare'" för riktiga människor och riktiga händelser.

Linh, som arbetar inom mediebranschen och regelbundet exponeras för AI-innehåll, var tvungen att erkänna att tekniken har utvecklats så snabbt och sofistikerat att det är svårt att skilja mellan äkta och falskt.

skärmdump 1749203761184.png — Det virala fotot på Facebook skapades av AI. Skärmdump.

Experter håller också med om denna uppfattning. Verktyg som Google Veo 3, Kling AI, DALL·E 3, Midjourney... har nått förmågan att skapa otroligt realistiska bilder och videor.

Herr Do Nhu Lam, utbildningschef, Blockchain Technology and Artificial Intelligence Institute ABAII, påpekade att tack vare multimodal teknik och avancerade språkmodeller kan dessa verktyg synkronisera bilder, ljud, ansiktsuttryck och naturliga rörelser, vilket skapar mycket övertygande produkter.

W-Foto av Mr. Do Nhu Lam.jpg — Do Nhu Lam, utbildningschef på Blockchain Technology and Artificial Intelligence Institute ABAII, sa att avancerad AI-teknik ger mycket övertygande produkter. Foto: NVCC

Herr Lam kommenterade att AI:s framsteg öppnar upp för stor potential inom områden som innehållsskapande, reklam, underhållning och utbildning . Denna "livskraftiga" förmåga att återskapa medför dock också många utmaningar inom etik, kontroll och informationssäkerhet, eftersom gränsen mellan verklighet och virtualitet alltmer suddas ut.

Facebook-inlägget som Linh såg lockade nästan 300 000 interaktioner och mer än 16 000 kommentarer. Många användare skyndade sig att gratulera eller uttrycka sina känslor utan att veta att detta bara var en AI-illustration. Några mer "nyktra" personer kritiserade "nätanvändare för att vara för naiva" för att låta AI lura dem.

På Facebookgrupper och forum är det inte svårt att se AI-videor som skapats och delats av användare. Särskilt Google Veo 3:s framväxt har avsevärt ökat kvaliteten på videorna, särskilt rösten som matchar karaktärens munform. Om man inte är uppmärksam och tittar noga kan tittarna lätt bli förvirrade.

Att hålla sig vid sina sinnens fulla bruk i AI:s tidsålder

Foton och videor som skapats med AI är svåra att urskilja, vilket utgör stora risker för användare, särskilt utsatta grupper som inte är tekniskt kunniga. Enligt Vu Thanh Thang - chef för artificiell intelligens (CAIO) på SCS Cyber Security Joint Stock Company, används AI av cyberbrottslingar i bedrägerier (kringgå biometriska system, eKYC...), där de utger sig för att vara kända personer för att sprida falsk information och orsakar förvirring hos allmänheten. Det finns många fall där högteknologiska brottslingar utnyttjar AI för att skapa djupförfalskade foton, utger sig för att vara släktingar för att ringa videosamtal för att lura pengar.

Herr Vu Thanh Thang.jpg — Herr Vu Thanh Thang – chef för artificiell intelligens (CAIO) på SCS Cyber Security Joint Stock Company – sa att vi har gått in i en era där allt kan förfalskas. Foto: NVCC

Enligt Thang är företag också potentiella måltavlor för AI-brottslingar. De kan använda AI-deepfakes för att utge sig för att vara anställda, kringgå säkerhetssystem för att låsa upp närvaro och utge sig för att vara företagsledare för att förtala och förstöra sitt rykte.

Do Nhu Lam från ABAII delar samma åsikt och pekade på tre konsekvenser för enskilda användare orsakade av AI: ekonomiskt bedrägeri, förtal av anseende och utnyttjande av privat information. För företag förlorade företaget Arup 25 miljoner USD efter att anställda vid dess filial i Hongkong lurades att delta i ett djupförfalskat videomöte och överföra pengar enligt begäran.

Allt du behöver veta om Veo 3, det nuvarande AI-verktyget för att generera virala videor Googles senaste AI-modell för videogenerering – Veo 3 – imponerar med sin förmåga att skapa realistiskt synkroniserat ljud med bilder.

En annan lika allvarlig risk är att när människor inte kan skilja mellan äkta och falskt, kommer allmänhetens förtroende för media och officiella nyhetskällor att urholkas.

Herr Lam hänvisade till en rapport från Reuters Institute 2024 som visar att andelen globala användare som litar på nyheter på medieplattformar har sjunkit till sin lägsta nivå på ett decennium, till stor del på grund av framväxten av djupförfalskt innehåll.

Enligt experten Vu Thanh Thang ”lever vi i en era där all information kan förfalskas och inte längre är en ’risk’.” Därför är det nödvändigt att öka medvetenheten och tillämpa personliga skyddsåtgärder, och lära sig om AI för att leva i fred .

De två experterna rekommenderar att användare alltid verifierar och autentiserar information innan de fattar beslut; utrustar sig med kunskap för att identifiera falskt innehåll; begränsar delning av personlig information online; och rapporterar spridning av falskt innehåll. ”Endast genom att vara proaktiva och kunniga kan användare verkligen skydda sig själva och bidra till att bygga en säkrare cyberrymd i den digitala tidsåldern”, sa Lam.

Orolig för mänsklighetens utrotning på grund av AI gjorde "gudfadern" Yoshua Bengio precis något . "Gudfadern" AI:n Yoshua Bengio grundade just en ideell organisation med målet att skapa säkra artificiella intelligenssystem, istället för att visa farliga personligheter för människor.

Kommentar (0)