YouTube introduceert een tool voor 'gelijkenisdetectie' om afbeeldingen en stemmen te beschermen tegen deepfakes.

De wildgroei aan deepfake -video's vervaagt de grens tussen realiteit en fictie. Van beroemdheden tot contentmakers, iedereen kan slachtoffer worden van deze technologie.

Geconfronteerd met deze realiteit, proberen YouTube en vele andere online platforms een evenwicht te vinden tussen creatieve vrijheid en controle over de digitale identiteit.

YouTube test een AI-gestuurde tool voor het detecteren van identiteitsfraude.

YouTube heeft een nieuwe functie geïntroduceerd genaamd 'Lijkherkenning', wat neerkomt op het identificeren van overeenkomsten in gelaatstrekken en stem. Wanneer makers video's ontdekken die tekenen van namaak van hun beeld of stem vertonen, kunnen ze via deze tool direct een verificatieverzoek indienen.

Het systeem gebruikt een model met kunstmatige intelligentie om gezichts- en stemgegevens te vergelijken met het originele profiel van de aanvrager. Als de resultaten een hoge mate van overeenkomst laten zien, wordt de video doorgestuurd naar het moderatieteam van YouTube voor verdere beoordeling.

Dit helpt om het per ongeluk verwijderen van legitieme content te verminderen en verhoogt de nauwkeurigheid van deepfake-detectie.

In tegenstelling tot eerdere tools voor het melden van auteursrechtinbreuk of inbreukmakende inhoud, richt de nieuwe herkenningsfunctie zich op de persoonlijke identiteit. Personen die worden geïmiteerd hoeven niet aan te tonen dat zij de eigenaar zijn van de afbeeldingen of inhoud; ze hoeven alleen maar te bevestigen dat hun gezicht of stem ongeoorloofd is gebruikt.

Volgens YouTube is het doel van deze tool om makers meer controle te geven, gezien het toenemende aantal video's dat gebruikmaakt van beeld- en spraaksynthesetechnologie, waardoor het voor kijkers moeilijk is om onderscheid te maken tussen echt en nep. De tool zal naar verwachting geleidelijk worden uitgerold in de VS, waarna deze volgend jaar in andere regio's beschikbaar komt.

Een maatregel genomen om de golf van deepfakes te bestrijden.

Deepfakes beperken zich niet langer tot entertainmentvideo's of satirische content. In slechts enkele jaren tijd is deze technologie misbruikt voor fraude, politiek en informatievervalsing. Talrijke gevallen waarbij beroemdheden hun gezicht of stem lieten veranderen in advertenties of gevoelige content hebben bij gebruikers bezorgdheid gewekt over de betrouwbaarheid van wat ze online zien.

Als reactie op deze golf zoeken socialemediaplatformen gezamenlijk naar manieren om te reageren. Meta heeft plannen aangekondigd om video's die door kunstmatige intelligentie zijn gemaakt te labelen als 'AI-gegenereerd', terwijl TikTok een 'AI-gegenereerd'-optie heeft toegevoegd aan het gedeelte voor het melden van overtredingen, waardoor het voor gebruikers gemakkelijker wordt om nepvideo's te rapporteren. Voor YouTube is dit een proactieve stap om de wijdverspreide en moeilijk te beheersen golf van deepfakes aan te pakken.

De introductie van deze functie laat ook zien dat YouTube probeert de normen voor contentmoderatie in het AI-tijdperk opnieuw te definiëren. Het platform pakt niet alleen inbreukmakende video's aan, maar creëert ook mechanismen om makers in staat te stellen hun digitale identiteit te beschermen.

Sommige media-experts zien dit als een teken dat technologiebedrijven de overstap hebben gemaakt van "zich aanpassen aan AI" naar "de impact van AI beheersen".

Het wereldwijd toepassen van tools voor deepfake-detectie is echter geen eenvoudige opgave. Verschillen in wetgeving inzake gegevensbescherming tussen landen en de complexiteit van het identificeren van schadelijke nepcontent vormen uitdagingen waar YouTube tijdens de implementatie mee te maken krijgt.

De grens tussen creativiteit en censuur.

De strijd tegen deepfakes roept vragen op over de grenzen van contentcreatie. Veel videoproducenten vrezen dat geautomatiseerde detectietools legitieme AI-producten, zoals korte films of geïllustreerde video's, kunnen beïnvloeden. Naarmate de grens tussen creativiteit en vervalsing vervaagt, moeten platforms manieren vinden om gebruikers te beschermen zonder de creatieve vrijheid te beperken.

YouTube beweert dat de identificatietool niet bedoeld is om creativiteit te beperken, maar om het recht van individuen op controle over hun eigen beelden te beschermen. Experts zijn echter van mening dat het een grote uitdaging zal blijven om te bepalen welke video's schadelijk zijn en welke legitieme creaties.

De wedloop tussen technologie voor het creëren van vervalsingen en technologie voor het opsporen ervan zal waarschijnlijk voortduren, en de nieuwe tool van YouTube is slechts een kleine stap in de poging om authenticiteit te behouden in een steeds virtuele wereld.

YouTube test een AI-gestuurde tool voor het detecteren van identiteitsfraude.

Een maatregel genomen om de golf van deepfakes te bestrijden.

De grens tussen creativiteit en censuur.

Reactie (0)