YouTube führt ein Tool zur „Ähnlichkeitserkennung“ ein, um Bilder und Stimmen vor Deepfakes zu schützen.

Die zunehmende Verbreitung von Deepfake -Videos verwischt die Grenzen zwischen Realität und Fiktion. Von Prominenten bis hin zu Content-Erstellern – jeder kann dieser Technologie zum Opfer fallen.

Angesichts dieser Realität versuchen YouTube und viele andere Online-Plattformen, ein Gleichgewicht zwischen kreativer Freiheit und Kontrolle über die digitale Identität herzustellen.

YouTube testet ein KI-gestütztes Tool zur Erkennung von Identitätsdiebstahl.

YouTube hat eine neue Funktion namens „Ähnlichkeitserkennung“ eingeführt. Diese erkennt Ähnlichkeiten in Gesichtszügen und Stimme. Wenn Urheber Videos entdecken, die Anzeichen für eine Nachahmung ihres Bildes oder ihrer Stimme aufweisen, können sie direkt über dieses Tool eine Überprüfung beantragen.

Das System vergleicht mithilfe eines KI-Modells Gesichts- und Sprachdaten mit dem Originalprofil des Anfragenden. Bei hoher Übereinstimmung wird das Video zur weiteren Prüfung an das Moderationsteam von YouTube weitergeleitet.

Dies trägt dazu bei, das versehentliche Löschen legitimer Inhalte zu reduzieren und die Genauigkeit der Deepfake-Erkennung zu erhöhen.

Anders als bisherige Tools zur Meldung von Urheberrechtsverletzungen oder urheberrechtswidrigen Inhalten konzentriert sich die neue Erkennungsfunktion auf die persönliche Identität. Die Betroffenen müssen nicht nachweisen, dass sie die Bilder oder Inhalte besitzen; sie müssen lediglich die unerlaubte Verwendung ihres Gesichts oder ihrer Stimme bestätigen.

Laut YouTube soll dieses Tool den Urhebern die Kontrolle über ihre Inhalte zurückgeben. Hintergrund ist die zunehmende Verwendung von Bild- und Sprachsynthese in Videos, wodurch es für die Zuschauer immer schwieriger wird, zwischen echt und gefälscht zu unterscheiden. Das Tool soll zunächst schrittweise in den USA eingeführt und im nächsten Jahr auf weitere Regionen ausgeweitet werden.

Ein Schritt zur Bekämpfung der Deepfake-Welle.

Deepfakes beschränken sich längst nicht mehr auf Unterhaltungsvideos oder Satire. Innerhalb weniger Jahre wurde diese Technologie für Betrug, politische Zwecke und Informationsmanipulation missbraucht. Zahlreiche Fälle, in denen Gesichter oder Stimmen von Prominenten in Werbung oder sensiblen Inhalten verändert wurden, haben bei Nutzern Bedenken hinsichtlich der Glaubwürdigkeit von Online-Inhalten geweckt.

Als Reaktion auf diese Welle suchen Social-Media-Plattformen gemeinsam nach Möglichkeiten, zu reagieren. Meta hat angekündigt, von künstlicher Intelligenz erstellte Videos als „KI-generiert“ zu kennzeichnen, während TikTok eine entsprechende Option in den Bereich zur Meldung von Verstößen aufgenommen hat, um Nutzern das Melden gefälschter Videos zu erleichtern. Für YouTube ist dies ein proaktiver Schritt im Kampf gegen die weit verbreitete und schwer zu kontrollierende Welle von Deepfakes.

Die Einführung dieser Funktion zeigt auch YouTubes Bestreben, die Standards für die Inhaltsmoderation im Zeitalter der KI neu zu definieren. Die Plattform geht nicht nur gegen urheberrechtsverletzende Videos vor, sondern schafft auch Mechanismen, die Urhebern eine Stimme beim Schutz ihrer digitalen Identität geben.

Einige Medienexperten sehen darin ein Zeichen dafür, dass Technologieunternehmen begonnen haben, von der „Anpassung an KI“ zur „Kontrolle der Auswirkungen von KI“ überzugehen.

Die weltweite Anwendung von Deepfake-Erkennungstools ist jedoch nicht einfach. Unterschiede in den Datenschutzgesetzen der einzelnen Länder und die Komplexität der Identifizierung schädlicher gefälschter Inhalte stellen Herausforderungen dar, denen sich YouTube bei der Implementierung stellen muss.

Die Grenze zwischen Kreativität und Zensur

Der Kampf gegen Deepfakes wirft Fragen nach den Grenzen der Content-Erstellung auf. Viele Videoproduzenten befürchten, dass automatisierte Erkennungstools legitime KI-gestützte Produkte wie Kurzfilme oder animierte Videos beeinträchtigen könnten. Da die Grenze zwischen Kreativität und Fälschung zunehmend verschwimmt, müssen Plattformen Wege finden, Nutzer zu schützen, ohne die künstlerische Freiheit einzuschränken.

YouTube behauptet, sein Kennzeichnungstool diene nicht der Einschränkung von Kreativität, sondern dem Schutz des Rechts des Einzelnen auf die Kontrolle seiner eigenen Bilder. Experten gehen jedoch davon aus, dass die Unterscheidung zwischen schädlichen und legitimen Videos weiterhin eine große Herausforderung darstellen wird.

Der Wettlauf zwischen Technologien zur Erstellung von Fälschungen und Technologien zu deren Erkennung wird sich wahrscheinlich fortsetzen, und das neue Tool von YouTube ist nur ein kleiner Schritt im Bestreben, die Authentizität in einem zunehmend virtuellen Zeitalter zu bewahren.

THANH THU

Quelle: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm