YouTube lanserer verktøyet «Likhetsdeteksjon» for å beskytte bilder og stemmer mot deepfakes

Spredningen av deepfake- videoer visker ut linjene mellom virkelighet og falskhet. Fra kjendiser til innholdsskapere kan hvem som helst bli et offer for denne teknologien.

Stilt overfor denne virkeligheten søker YouTube og mange andre nettplattformer å finne en balanse mellom kreativ frihet og kontroll over digital identitet.

YouTube tester et AI-drevet verktøy for å oppdage etterligning.

YouTube har introdusert en ny funksjon kalt «Likhetsdeteksjon», som kan oversettes til å identifisere likheter i ansiktstrekk og stemme. Når innholdsskapere oppdager videoer som viser tegn til etterligning av bildet eller stemmen deres, kan de sende inn en bekreftelsesforespørsel direkte gjennom dette verktøyet.

Systemet bruker en kunstig intelligens-modell for å sammenligne ansikts- og stemmedata med den opprinnelige profilen til forespørselens bruker. Hvis resultatene viser høy grad av samsvar, sendes videoen til YouTubes modereringsteam for videre evaluering.

Dette bidrar til å redusere utilsiktet sletting av legitimt innhold og øker nøyaktigheten av deepfake-deteksjon.

I motsetning til tidligere verktøy for rapportering av brudd på opphavsrett eller innhold som krenker opphavsretten, fokuserer den nye gjenkjenningsfunksjonen på personlig identitet. De som blir utgitt for å være, trenger ikke å bevise eierskap til bildene eller innholdet; de trenger bare å bekrefte uautorisert bruk av ansiktet eller stemmen sin.

Ifølge YouTube er målet med dette verktøyet å gi skaperne tilbake kontrollen, i sammenheng med et økende antall videoer som bruker bilde- og stemmesynteseteknologi som gjør det vanskelig for seere å skille mellom ekte og falskt. Verktøyet forventes gradvis å bli rullet ut i USA før det utvides til andre regioner neste år.

Et skritt tatt for å bekjempe bølgen av deepfakes.

Deepfakes er ikke lenger begrenset til underholdningsvideoer eller satirisk innhold. På bare noen få år har denne teknologien blitt utnyttet til svindel, politikk og informasjonsmanipulasjon. Tallrike tilfeller av kjendiser som har fått ansiktene eller stemmene sine endret i reklamer eller sensitivt innhold har skapt bekymring blant brukere om påliteligheten til det de ser på nettet.

Som svar på denne bølgen søker sosiale medieplattformer kollektivt måter å reagere på. Meta har annonsert planer om å merke videoer laget av kunstig intelligens som «AI-generert», mens TikTok har lagt til et «AI-generert»-alternativ i sin rapporteringsdel for brudd på loven, noe som gjør det enklere for brukere å rapportere falske videoer. For YouTube er dette et proaktivt skritt i å håndtere den utbredte og vanskelig kontrollerede bølgen av deepfakes.

Utrullingen av denne funksjonen viser også YouTubes forsøk på å omdefinere standarder for innholdsmoderering i AI-alderen. Plattformen håndterer ikke bare krenkende videoer, men skaper også mekanismer for å gi skaperne en stemme i å beskytte sine digitale identiteter.

Noen medieeksperter ser dette som et tegn på at teknologiselskaper har begynt å gå fra å «tilpasse seg AI» til å «kontrollere virkningen av AI».

Det er imidlertid ikke enkelt å bruke verktøy for deepfake-deteksjon på global skala. Forskjeller i personvernlover mellom land og kompleksiteten ved å identifisere skadelig falskt innhold vil være utfordringer YouTube vil møte under implementeringen.

Grensen mellom kreativitet og sensur

Kampen mot deepfakes reiser spørsmål om grensene for innholdsproduksjon. Mange videoprodusenter bekymrer seg for at automatiserte deteksjonsverktøy kan påvirke legitime AI-drevne produkter, som kortfilmer eller illustrerte videoer. Etter hvert som grensen mellom kreativitet og forfalskning viskes ut, må plattformer finne måter å beskytte brukere på uten å skade den kreative friheten.

YouTube hevder at identifikasjonsverktøyet deres ikke er ment å begrense kreativiteten, men å beskytte individers rett til å kontrollere sine egne bilder. Eksperter mener imidlertid at det å avgjøre hvilke videoer som er skadelige og hvilke som er legitime kreasjoner fortsatt vil være en stor utfordring.

Kappløpet mellom teknologi for å lage forfalskninger og teknologi for å oppdage dem vil sannsynligvis fortsette, og YouTubes nye verktøy er bare et lite skritt i arbeidet med å bevare autentisiteten i en stadig mer virtuell tidsalder.

THANH TOR

Kilde: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm