Pornografia deepfake, o problemă în cursa inteligenței artificiale

Deepfake-urile sunt videoclipuri și imagini create sau modificate digital folosind inteligența artificială (IA) sau învățarea automată (ML). Conținutul pornografic creat folosind această tehnologie a început să circule pe internet acum câțiva ani, când un utilizator Reddit a distribuit clipuri porno false cu fețe ale unor celebrități.

Foto: GI

Oricine poate deveni victimă.

De atunci, creatorii de deepfake-uri au postat în mod continuu videoclipuri și imagini similare care vizează influenceri online, jurnaliști și alte persoane cu profiluri publice. Mii de astfel de videoclipuri există pe numeroase site-uri web.

Odată cu accesul din ce în ce mai mare al tehnologiilor de inteligență artificială, utilizatorii pot transforma pe oricine doresc în „vedete de film pornografice” fără consimțământul lor sau, mai periculos, pot folosi această tehnologie pentru a defăima sau a șantaja alte persoane.

Experții spun că problema s-ar putea agrava odată cu dezvoltarea unor instrumente de inteligență artificială generalizate, antrenate pe miliarde de imagini de pe internet și generarea de conținut nou folosind datele existente.

„Realitatea este că tehnologia va continua să prolifereze, va continua să evolueze și va continua să devină mai ușoară și mai accesibilă”, a declarat Adam Dodge, fondatorul EndTAB, un grup care oferă instruire privind abuzul tehnologic. „Și atâta timp cât acest lucru continuă, oamenii vor... continua să abuzeze de această tehnologie pentru a face rău altora, în principal prin violență sexuală online, pornografie deepfake și nuditate falsă.”

Noelle Martin din Perth, Australia, a experimentat acest lucru direct. Tânăra de 28 de ani și-a descoperit propriile imagini pornografice false acum 10 ani, când, din curiozitate, a folosit Google pentru a căuta poze cu ea. Până în ziua de azi, Martin spune că nu știe cine a creat aceste imagini sau videoclipuri pornografice false. Ea bănuiește că cineva a folosit imagini de pe rețelele ei de socializare pentru a crea videoclipurile pornografice.

În ciuda încercărilor lui Martin de a contacta site-urile web pentru a elimina videoclipurile, eforturile ei au fost în zadar. Unii nu au răspuns. Alții le-au eliminat, dar le-au încărcat rapid din nou. „Nu puteți câștiga”, a spus Martin. „Va rămâne pe internet pentru totdeauna și v-ar putea ruina viața.”

Eforturile companiilor de tehnologie de a remedia situația.

Unele modele de inteligență artificială au indicat că au acces restricționat la imagini pornografice.

OpenAI declară că a eliminat conținutul pornografic din datele utilizate pentru a antrena instrumentul său de generare de imagini DALL-E, ceea ce va limita potențialul de utilizare abuzivă. De asemenea, compania filtrează solicitările și spune că blochează utilizatorii să creeze imagini cu inteligență artificială ale celebrităților și politicienilor proeminenți. Midjourney, un alt model, blochează, de asemenea, utilizarea anumitor cuvinte cheie și încurajează utilizatorii să semnaleze imaginile problematice pentru moderatori.

Între timp, Stability AI a lansat și o actualizare pentru a împiedica utilizatorii să creeze imagini sensibile. Aceste modificări vin după ce se raportează că unii utilizatori creau fotografii nud inspirate de celebrități folosind tehnologia.

Purtătorul de cuvânt al Stability AI, Motez Bishara, a declarat că filtrul folosește o combinație de cuvinte cheie și alte tehnici, cum ar fi recunoașterea imaginilor, pentru a detecta nuditatea. Însă utilizatorii pot manipula software-ul și pot crea orice doresc, deoarece compania a lansat codul open-source pentru aplicație.

Unele companii de socializare și-au înăsprit, de asemenea, regulile pentru a-și proteja mai bine platformele de materialele dăunătoare.

Luna trecută, TikTok a declarat că tot conținutul deepfake sau manipulat trebuie etichetat pentru a indica faptul că este fals sau a fost modificat în vreun fel.

Platforma de jocuri Twitch și-a actualizat recent politicile privind imaginile deepfake după ce s-a descoperit că un streamer popular pe nume Atrioc accesa un site web pornografic deepfake în browserul său în timpul unei transmisiuni live la sfârșitul lunii ianuarie.

Apple și Google au anunțat recent că au eliminat o aplicație din magazinele lor de aplicații care difuza videoclipuri deepfake cu tentă sexuală pentru a promova produse.

De la cântăreți occidentali la idoli K-pop.

Cercetările privind pornografia deepfake sunt rare, dar un raport din 2019 al companiei de inteligență artificială DeepTrace Labs a constatat că aceasta era aproape în întregime o armă împotriva femeilor, actrițele occidentale fiind cele mai vizate, urmate de cântărețele de K-pop.

Purtătorul de cuvânt al Meta, Dani Lever, a declarat într-un comunicat că politica companiei restricționează atât conținutul pentru adulți generat prin inteligență artificială, cât și cel generat fără inteligență artificială și, de asemenea, limitează accesul aplicației de creare de deepfake la publicitate pe platforma sa.

În februarie, Meta, împreună cu site-uri web pentru adulți precum Only**** și Porn***, au început să participe la un instrument online numit Take It Down, care permite adolescenților să raporteze propriile imagini și videoclipuri pornografice de pe internet. Site-ul acceptă procesarea atât a videoclipurilor filmate în secret, cât și a videoclipurilor generate de inteligența artificială.

Hoang Ton (conform AP)

Sursă: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html