YouTube lanserar verktyget "Likhetsdetektering" för att skydda bilder och röster från djupförfalskningar.

YouTube börjar använda ansikts- och röstigenkänningsverktyg för att förhindra deepfakes, vilket ger skapare kontroll över hur deras bilder används utan tillstånd.

YouTube lanserar och kommer att utöka tillgången till verktyg för likhetsdetektering för kreatörer

Spridningen av deepfake -videor suddar ut gränsen mellan äkta och falskt. Från kändisar till innehållsskapare kan alla bli offer för den här tekniken.

Inför den verkligheten försöker YouTube och många andra onlineplattformar hitta en balans mellan kreativ frihet och kontroll över digital identitet.

YouTube testar AI-verktyg för personidentifiering

YouTube har introducerat en ny funktion som kallas "Likhetsdetektering", vilket ungefär betyder ansikts- och röstlikhetsigenkänning. När skapare upptäcker videor som verkar vara falska kan de skicka in verifieringsförfrågningar direkt via det här verktyget.

Systemet använder en artificiell intelligens-modell för att jämföra ansikts- och röstdata med den ursprungliga profilen för den som begärt videon. Om resultaten visar en hög grad av matchning skickas videon till YouTubes modereringsavdelning för vidare granskning.

Detta minskar risken för att giltigt innehåll raderas av misstag, samtidigt som det ökar noggrannheten i deepfake-detektering.

Till skillnad från tidigare verktyg för att rapportera upphovsrättsintrång eller innehåll som gör intrång fokuserar den nya igenkänningsfunktionen på personlig identitet. Personen som utges för att vara person behöver inte bevisa äganderätten till bilden eller innehållet, utan bara bekräfta den obehöriga användningen av deras ansikte eller röst.

YouTube säger att målet med verktyget är att ge skaparna tillbaka kontrollen, eftersom fler och fler videor använder bild- och röstsyntesteknik som gör det svårare för tittare att skilja mellan äkta och falskt. Verktyget förväntas rullas ut gradvis i USA innan det expanderas till andra regioner nästa år.

Steg för att hantera deepfake-vågen

Deepfakes är inte längre begränsade till underhållningsvideor eller satir. På bara några år har tekniken använts för bedrägerier, politiska syften och informationsmanipulation. Många fall där kändisar fått sina ansikten beskurna, eller till och med sina röster förfalskade, i reklam eller känsligt innehåll har väckt oro kring tillförlitligheten i vad de ser online.

Inför den vågen har sociala medieplattformar samtidigt försökt att reagera. Meta tillkännagav planer på att märka videor skapade av artificiell intelligens som "AI-genererade", medan TikTok lade till en sektion med "AI-genererade" i sin sektion för rapportering av överträdelser, vilket gör det lättare för användare att svara när de upptäcker falska videor. För YouTube är detta ett steg som visar deras proaktiva ansträngningar för att hantera den utbredda och okontrollerbara vågen av deepfakes.

Lanseringen av den här funktionen visar också att YouTube försöker återställa standarderna för innehållshantering i AI-åldern. Plattformen hanterar inte bara intrångsgörande videor, utan skapar också en mekanism för att ge skapare en röst för att skydda sin digitala identitet.

Vissa medieexperter ser detta som ett tecken på att teknikföretag har börjat gå från fasen att ”anpassa sig till AI” till att ”kontrollera AI:s inverkan”.

Att implementera verktyg för deepfake-detektering på global skala är dock inte enkelt. Skillnader i dataskyddslagar mellan länder och komplexiteten i att avgöra vad som utgör skadligt falskt innehåll kommer att vara utmaningar för YouTube i implementeringsprocessen.

Gränsen mellan kreativitet och censur

Bekämpningen av deepfakes väcker frågor om gränserna för innehållsskapande. Många videoskapare oroar sig för att automatiserade igenkänningsverktyg kan påverka legitima AI-baserade produkter, som kortfilmer eller demonstrationsvideor. I takt med att gränsen mellan kreativitet och förfalskning blir alltmer suddig måste plattformar hitta sätt att skydda användare utan att undergräva den kreativa friheten.

YouTube insisterar på att igenkänningsverktyget inte är avsett att begränsa kreativiteten utan att skydda rätten att kontrollera den personliga bilden. Experter säger dock att det kommer att förbli en stor utmaning att avgöra vad som är skadligt och vad som är legitimt skapande.

Kapplöpningen mellan förfalskningsteknik och teknik för att upptäcka förfalskningar kommer sannolikt att fortsätta, och YouTubes nya verktyg är bara ett litet steg i ansträngningarna att behålla det verkliga i en alltmer virtuell tidsålder.

THANH TOR

Källa: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm