Deepfake pornó, egy probléma az AI versenyben

A deepfake-ek mesterséges intelligencia (MI) vagy gépi tanulás (ML) segítségével létrehozott vagy digitálisan módosított videók és képek. Az ezzel a technológiával létrehozott pornográf tartalom néhány évvel ezelőtt kezdett terjedni az interneten, amikor egy Reddit-felhasználó hamis pornóklipeket osztott meg hírességek arcaival.

Fotó: GI

Bárki válhat áldozattá.

Azóta a deepfake-készítők folyamatosan hasonló videókat és képeket tettek közzé, amelyek online influenszereket, újságírókat és más nyilvános profillal rendelkezőket céloztak meg. Több ezer ilyen videó létezik számos weboldalon.

Mivel a mesterséges intelligencia egyre elérhetőbbé válik, a felhasználók bárkit „pornográf filmsztárrá” változtathatnak beleegyezésük nélkül, vagy – ami még veszélyesebb – ezt a technológiát mások rágalmazására vagy zsarolására használhatják.

A szakértők szerint a probléma súlyosbodhat az általánosított mesterséges intelligencia eszközök fejlesztésével, amelyeket az internetről származó több milliárd képen képeznek ki, és meglévő adatok felhasználásával új tartalmakat generálnak.

„A valóság az, hogy a technológia továbbra is elterjed, fejlődni fog, és egyre könnyebb és hozzáférhetőbb lesz” – mondta Adam Dodge, az EndTAB alapítója, amely egy olyan csoport, amely a technológiai visszaélésekkel kapcsolatos képzéseket kínál. „És amíg ez így folytatódik, az emberek… továbbra is visszaélnek ezzel a technológiával, hogy ártsanak másoknak, elsősorban online szexuális erőszak, deepfake pornográfia és hamis meztelenség révén.”

Az ausztráliai Perthből származó Noelle Martin első kézből tapasztalta meg ezt. A 28 éves nő 10 évvel ezelőtt fedezte fel saját deepfake pornográf képeit, amikor kíváncsiságból a Google-ben keresett képeket magáról. Martin a mai napig azt mondja, hogy nem tudja, ki készítette ezeket a hamis pornográf képeket vagy videókat. Azt gyanítja, hogy valaki a közösségi médiájából származó képeket használt fel a pornográf videók létrehozásához.

Martin hiába próbálta felvenni a kapcsolatot a weboldalakkal a videók eltávolítása érdekében, erőfeszítései hiábavalóak voltak. Néhányan nem válaszoltak. Mások eltávolították a videókat, de gyorsan újra feltöltötték őket. „Nem nyerhetsz” – mondta Martin. „Örökké fent marad az interneten, és tönkreteheti az életedet.”

A tech cégek erőfeszítései a helyzet orvoslására.

Néhány mesterséges intelligencia modell jelezte, hogy korlátozott hozzáféréssel rendelkezik a pornográf képekhez.

Az OpenAI állítása szerint eltávolította a pornográf tartalmat a DALL-E képgeneráló eszköz betanításához használt adatokból, ami korlátozza a visszaélések lehetőségét. A vállalat szűri a kéréseket, és azt állítja, hogy megakadályozza a felhasználókat abban, hogy hírességekről és ismert politikusokról mesterséges intelligencia által készített képeket készítsenek. A Midjourney, egy másik modell, szintén blokkolja bizonyos kulcsszavak használatát, és arra ösztönzi a felhasználókat, hogy jelöljék meg a problémás képeket a moderátoroknak.

Eközben a Stability AI is kiadott egy frissítést, amely megakadályozza a felhasználókat abban, hogy érzékeny képeket készítsenek. Ezek a változtatások azután történtek, hogy jelentések szerint egyes felhasználók hírességek ihlette meztelen fotókat készítettek a technológia segítségével.

Motez Bishara, a Stability AI szóvivője elmondta, hogy a szűrő kulcsszavak és más technikák, például képfelismerés kombinációját használja a meztelenség észlelésére. A felhasználók azonban manipulálhatják a szoftvert, és bármit létrehozhatnak, amit csak akarnak, mivel a cég kiadta az alkalmazás nyílt forráskódját.

Néhány közösségi média cég szigorított a szabályain, hogy jobban megvédje platformjait a káros anyagoktól.

A TikTok a múlt hónapban bejelentette, hogy minden deepfake vagy manipulált tartalmat meg kell jelölni, jelezve, hogy hamis vagy valamilyen módon módosított.

A Twitch játékplatform nemrégiben frissítette a deepfake képekre vonatkozó szabályzatát, miután egy népszerű streamer, Atrioc január végén egy élő közvetítés közben egy deepfake pornó weboldalt látogatott meg a böngészőjében.

Az Apple és a Google nemrég bejelentette, hogy eltávolítottak egy alkalmazást az alkalmazásboltjaikból, mert szexuálisan burkolt deepfake videókat futtatott termékeik népszerűsítésére.

A nyugati énekesektől a K-pop idolokig.

A deepfake pornóval kapcsolatos kutatások ritkák, de a DeepTrace Labs mesterséges intelligencia cég 2019-es jelentése szerint szinte teljes egészében fegyverként szolgál a nők ellen, a nyugati színésznőket célozva meg leginkább, őket követik a K-pop énekesek.

Dani Lever, a Meta szóvivője egy nyilatkozatban elmondta, hogy a vállalat szabályzata korlátozza mind a mesterséges intelligencia által, mind a nem mesterséges intelligencia által generált felnőtt tartalmakat, és korlátozza a deepfake készítő alkalmazás oldalán megjelenő hirdetéseket is a platformjukon.

Februárban a Meta, olyan felnőtt weboldalakkal együtt, mint az Only**** és a Porn***, részt vett egy Take It Down nevű online eszközben, amely lehetővé teszi a tinédzserek számára, hogy bejelentsék saját pornográf képeiket és videóikat az internetről. Az oldal támogatja mind a titokban forgatott videók, mind a mesterséges intelligencia által generált videók feldolgozását.

Hoang Ton (az AP szerint)

Forrás: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html