YouTube lanserar verktyget "Likhetsdetektering" för att skydda bilder och röster från djupförfalskningar.

YouTube har börjat implementera verktyg för ansikts- och röstigenkänning för att förhindra deepfakes, vilket gör det möjligt för kreatörer att kontrollera obehörig användning av deras bilder.

YouTube lanserar och kommer att utöka åtkomsten till sitt verktyg för likhetsdetektering för kreatörer.

Spridningen av deepfake- videor suddar ut gränserna mellan verklighet och fejk. Från kändisar till innehållsskapare kan vem som helst bli offer för denna teknik.

Inför denna verklighet försöker YouTube och många andra onlineplattformar hitta en balans mellan kreativ frihet och kontroll över digital identitet.

YouTube testar ett AI-drivet verktyg för att upptäcka identitetsstöld.

YouTube har introducerat en ny funktion som heter "Likhetsdetektering", vilket kan översättas till att identifiera likheter i ansiktsdrag och röst. När skapare upptäcker videor som visar tecken på imitation av deras bild eller röst kan de skicka in en verifieringsbegäran direkt via det här verktyget.

Systemet använder en artificiell intelligens-modell för att jämföra ansikts- och röstdata med den ursprungliga profilen för den som begärt videon. Om resultaten visar en hög grad av matchning skickas videon till YouTubes modereringsteam för vidare utvärdering.

Detta bidrar till att minska oavsiktlig radering av legitimt innehåll och ökar noggrannheten i deepfake-detektering.

Till skillnad från tidigare verktyg för att rapportera upphovsrättsintrång eller innehåll som gör intrång fokuserar den nya igenkänningsfunktionen på personlig identitet. De som utges för att vara personifierade behöver inte bevisa äganderätten till bilderna eller innehållet; de behöver bara bekräfta den obehöriga användningen av sitt ansikte eller sin röst.

Enligt YouTube är målet med detta verktyg att ge skaparna tillbaka kontrollen, i samband med ett ökande antal videor som använder bild- och röstsyntesteknik som gör det svårt för tittare att skilja mellan äkta och falskt. Verktyget förväntas gradvis rullas ut i USA innan det expanderas till andra regioner nästa år.

Ett steg som tagits för att bekämpa vågen av deepfakes.

Deepfakes är inte längre begränsade till underhållningsvideor eller satiriskt innehåll. På bara några år har denna teknik utnyttjats för bedrägerier, politik och informationsmanipulation. Många fall av kändisar som fått sina ansikten eller röster förändrade i reklam eller känsligt innehåll har väckt oro bland användare om tillförlitligheten i vad de ser online.

Som svar på denna våg söker sociala medieplattformar kollektivt sätt att reagera. Meta har tillkännagivit planer på att märka videor skapade av artificiell intelligens som "AI-genererade", medan TikTok har lagt till ett alternativ för "AI-genererade" i sin rapporteringssektion för överträdelser, vilket gör det enklare för användare att rapportera falska videor. För YouTube är detta ett proaktivt steg i att hantera den utbredda och svårkontrollerade vågen av deepfakes.

Lanseringen av den här funktionen visar också YouTubes försök att omdefiniera standarder för innehållsmoderering i AI-åldern. Plattformen hanterar inte bara intrångsgörande videor utan skapar också mekanismer för att ge skapare en röst för att skydda sina digitala identiteter.

Vissa medieexperter ser detta som ett tecken på att teknikföretag har börjat gå från att "anpassa sig till AI" till att "kontrollera AI:s inverkan".

Att tillämpa verktyg för deepfake-detektering på global skala är dock inte enkelt. Skillnader i dataskyddslagar mellan länder och komplexiteten i att identifiera skadligt falskt innehåll kommer att vara utmaningar som YouTube kommer att möta under implementeringen.

Gränsen mellan kreativitet och censur

Kampen mot deepfakes väcker frågor om gränserna för innehållsskapande. Många videoproducenter oroar sig för att automatiserade detekteringsverktyg kan påverka legitima AI-drivna produkter, såsom kortfilmer eller illustrerade videor. I takt med att gränsen mellan kreativitet och förfalskning suddas ut måste plattformar hitta sätt att skydda användare utan att skada den kreativa friheten.

YouTube hävdar att deras identifieringsverktyg inte är avsett att begränsa kreativiteten utan att skydda individers rätt att kontrollera sina egna bilder. Experter tror dock att det kommer att förbli en stor utmaning att avgöra vilka videor som är skadliga och vilka som är legitima skapelser.

Kapplöpningen mellan teknik för att skapa förfalskningar och teknik för att upptäcka dem kommer sannolikt att fortsätta, och YouTubes nya verktyg är bara ett litet steg i ansträngningarna att bevara autenticiteten i en alltmer virtuell tidsålder.

THANH TOR

Källa: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm