Pornografia deepfake, o problemă în cursa inteligenței artificiale

Deepfake-urile sunt videoclipuri și imagini create sau modificate digital folosind inteligența artificială (IA) sau învățarea automată (ML). Pornografia creată folosind această tehnologie a început să circule pe internet acum câțiva ani, când un utilizator Reddit a distribuit clipuri porno false cu fețele unor celebrități.

Foto: GI

Oricine poate fi victimă.

De atunci, creatorii de deepfake-uri au continuat să posteze videoclipuri și imagini similare care vizează influenceri online, jurnaliști și alte persoane cu profiluri publice. Mii de astfel de videoclipuri există pe numeroase site-uri web.

Odată cu accesul din ce în ce mai mare al tehnologiilor de inteligență artificială, utilizatorii pot transforma pe oricine doresc în „vedete porno” fără consimțământul lor sau, mai periculos, pot folosi tehnologia pentru a defăima sau șantaja alte persoane.

Experții spun că problema s-ar putea agrava odată cu dezvoltarea de instrumente de inteligență artificială generativă, care sunt antrenate pe baza a miliarde de imagini de pe internet și generează conținut nou folosind datele existente.

„Realitatea este că tehnologia va continua să prolifereze, va continua să evolueze și va continua să devină mai ușor disponibilă și accesibilă”, a declarat Adam Dodge, fondatorul EndTAB, un grup care oferă instruire privind abuzul de tehnologie. „Și atâta timp cât acest lucru continuă, oamenii vor continua, fără îndoială... să abuzeze de această tehnologie pentru a face rău altora, în principal prin violență sexuală online, pornografie deepfake și nuduri false.”

Noelle Martin din Perth, Australia, a experimentat această realitate. Tânăra de 28 de ani a descoperit pornografia falsă cu ea însăși acum 10 ani, când, din curiozitate, și-a căutat pe Google propria imagine. Până în ziua de azi, Martin spune că nu are nicio idee cine a creat imaginile sau videoclipurile porno false. Ea bănuiește că cineva i-a folosit imaginile de pe rețelele de socializare pentru a crea videoclipuri porno.

Martin a încercat să contacteze site-urile pentru a elimina videoclipurile, dar eforturile ei au fost în zadar. Unii nu au răspuns. Alții le-au eliminat, dar le-au repostat rapid. „Nu poți câștiga”, a spus dna Martin. „Va rămâne pe internet pentru totdeauna și îți poate ruina viața.”

Eforturile companiilor de tehnologie de a rezolva problema

Unele modele de inteligență artificială spun că au acces restricționat la imagini pornografice.

OpenAI a declarat că a eliminat conținutul pornografic din datele utilizate pentru antrenarea generatorului său de imagini DALL-E, ceea ce ar trebui să limiteze probabilitatea utilizării abuzive a acestuia. De asemenea, compania filtrează solicitările și spune că blochează utilizatorii să creeze imagini cu inteligență artificială ale celebrităților și politicienilor proeminenți. Un alt model, Midjourney, blochează, de asemenea, utilizarea anumitor cuvinte cheie și încurajează utilizatorii să semnaleze imaginile problematice moderatorilor.

Între timp, Stability AI a lansat și o actualizare care împiedică utilizatorii să creeze imagini explicite. Aceste modificări vin după ce se raportează că unii utilizatori foloseau tehnologia pentru a crea nuduri inspirate de celebrități.

Purtătorul de cuvânt al Stability AI, Motez Bishara, a declarat că filtrul folosește o combinație de cuvinte cheie și alte tehnici, precum recunoașterea imaginilor, pentru a detecta nuditatea. Însă utilizatorii pot modifica software-ul și crea orice doresc, deoarece compania a lansat codul open source al aplicației.

Unele companii de socializare au înăsprit, de asemenea, regulile pentru a-și proteja mai bine platformele de materialele dăunătoare.

Luna trecută, TikTok a declarat că tot conținutul deepfake sau manipulat trebuie etichetat pentru a indica faptul că este fals sau modificat într-un fel.

Platforma de jocuri Twitch și-a actualizat recent politicile privind imaginile deepfake după ce un streamer popular pe nume Atrioc a fost surprins deschizând un site pornografic deepfake în browserul său în timpul unei transmisiuni în direct la sfârșitul lunii ianuarie.

Apple și Google au anunțat că au eliminat recent o aplicație din magazinele lor de aplicații care difuza videoclipuri deepfake cu tentă sexuală pentru a-și promova produsele.

De la cântăreț occidental la idol K-pop.

Cercetările privind pornografia deepfake sunt rare, dar un raport din 2019 al companiei de inteligență artificială DeepTrace Labs a constatat că aceasta era aproape în întregime o armă împotriva femeilor, actrițele occidentale fiind cele mai vizate, urmate de cântărețele de K-pop.

Purtătorul de cuvânt al Meta, Dani Lever, a declarat într-un comunicat că politicile companiei restricționează atât conținutul pentru adulți generat de inteligență artificială, cât și cel generat de inteligență artificială și restricționează pagina aplicației care generează deepfake-uri să facă publicitate pe platforma sa.

În februarie, Meta, precum și site-uri pentru adulți precum Only**** și Porn***, au început să participe la un instrument online numit Take It Down, care permite adolescenților să raporteze imagini și videoclipuri cu conținut sexual explicit cu ei înșiși de pe internet. Site-ul acceptă atât videoclipuri filmate în secret, cât și videoclipuri generate de inteligență artificială.

Hoang Ton (conform AP)

Sursă: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html