Deepfake hanganyagok, egy új aggodalom a félretájékoztatásról

[hirdetés_1]

A New Hampshire-i főügyészség hétfőn bejelentette, hogy vizsgálatot indított a választók manipulációjának gyanújával, miután panaszok érkeztek egy hamis hangról, amely pontosan úgy hangzott, mint Joe Biden amerikai elnök hangja, aki arra buzdította a szavazókat, hogy ne szavazzanak az állam előválasztásán.

A kutatók a deepfake hanganyagok politikusok és vezetők utánzására való használatára is figyelmeztettek, kiemelkedő esetekkel 2023-ban az Egyesült Királyságban, Indiában, Nigériában, Szudánban, Etiópiában és Szlovákiában.

deepfake új hanganyag új információ hamis kép 1 — Egy személy szavaz az előválasztáson New Hampshire-ben, az Egyesült Államokban. Fotó: Getty

Szakértők szerint a deepfake hanganyagok a dezinformáció népszerű formájává váltak a startupok által fejlesztett olcsó és hatékony mesterséges intelligencia eszközöknek köszönhetően. A Microsoft is kifejlesztett egy új mesterséges intelligencia modellt, amely mindössze három másodpercnyi felvételről képes hangokat másolni.

„A vizuális manipuláció terén mindenki ismeri a Photoshopot, vagy legalábbis tudja, hogy létezik” – mondta Henry Ajder, mesterséges intelligencia és deepfake szakértő, valamint az Adobe, a Meta és az EY tanácsadója. „Nagyon kevesen vannak tisztában azzal, hogyan lehet manipulálni a hangot, így számomra ez nagyon sebezhetővé tesz minket.”

Szeptemberben a NewsGuard, egy olyan rendszer, amely a híroldalak minőségét és megbízhatóságát értékeli, felfedezett egy TikTok-fiókok hálózatát, amelyek legitim híroldalaknak adtak ki magukat, és mesterséges intelligencia által generált tartalmakat használtak összeesküvés-elméletek és politikai félretájékoztatás terjesztésére. A deepfake felvételek, köztük Barack Obama volt amerikai elnök hangja, több százmillió megtekintést értek el.

A NewsGuard szerint a hamis szinkronhangokat egy, az Andreessen Horowitz által támogatott ElevenLabs által biztosított eszközzel generálták, miközben a klipek több százmillió megtekintést értek el.

„Platformunk felhasználóinak több mint 99%-a érdekes, kreatív és hasznos tartalmakat hoz létre, de felismerjük, hogy vannak visszaélések, és folyamatosan fejlesztettünk és vezettünk be védelmet ezek korlátozására” – mondta az ElevenLabs.

Az ElevenLabs-t két évvel ezelőtt alapították a Google és a Palantir korábbi alkalmazottai, Piotr Dabkowski és Mati Staniszewski, és egyetlen kattintással ingyenesen kínál alapvető mesterséges intelligencia alapú hanggeneráló eszközöket. Az előfizetési csomagok havi 1 dollártól havi 330 dollárig terjednek, sőt, azok számára, akik összetettebb szolgáltatásokat keresnek, a magasabb árkategóriába tartoznak.

Tavaly az amerikai hírszerző ügynökségek egy jelentésben arra figyelmeztettek, hogy „a személyre szabott mesterséges intelligenciával kapcsolatos csalások száma jelentősen megnőtt a kifinomult és jól képzett mesterséges intelligencia hangklónozási modellek megjelenése miatt”.

A pénzügyileg motivált csalások mellett a politikai szakértők mostanában a vírusként terjedő deepfake hanganyagok, valamint a deepfake-ek robothívásokhoz vagy kampányokhoz való felhasználása miatt is riadót kongatnak. „A telefonok célzásával hatékony, széles körű dezinformációs kampányt lehet építeni” – mondta AJ Nash, a ZeroFox kiberbiztonsági csoport alelnöke és elismert hírszerző munkatársa.

Ezen vállalatok némelyike proaktívan keresett más módszereket a félretájékoztatás leküzdésére. A Microsoft etikai nyilatkozatot adott ki, amelyben arra kéri a felhasználókat, hogy jelentsék a mesterséges intelligencia által létrehozott audioeszközükkel való visszaélést. Az ElevenLabs saját észlelő eszközöket épített ki a rendszerük által létrehozott hangfelvételek azonosítására.

A 2023-as nigériai választások során egy mesterséges intelligencia által manipulált videó terjedt el a közösségi médiában, „amely azt sugallta, hogy egy ellenzéki jelölt a szavazatok manipulálását tervezi” – közölte a Freedom House emberi jogi csoport.

Szlovákiában egy hamis hangfelvétel terjedt el vírusként, amelyen Michal Šimečka ellenzéki jelölt látható, aki állítólag a választások manipulálására készül, mindössze néhány nappal a szeptemberi elnökválasztás előtt.

„A New Hampshire-i deepfake esete emlékeztet minket arra, hogy a deepfake-ek milyen sokféleképpen tudnak összezavarni és csalni” – mondta Robert Weissman, a Public Citizen nonprofit fogyasztóvédelmi csoport elnöke. „Elérkezett a politikai deepfake pillanata. A döntéshozóknak gyorsan kell cselekedniük, hogy biztosítékokat vezessenek be, különben választási káoszba ütközünk.”

Mai Anh (a FT szerint)

[hirdetés_2]
Forrás