Giftige AI-gegenereerde content is wijdverbreid op TikTok

Khi AI vẽ ma cà rồng — Wanneer AI vampiers tekent

Volgens een rapport van de non-profitorganisatie Media Matters verdienen TikTok-gebruikers steeds meer geld aan video's die ongefundeerde 'complottheorieën' over het einde van de wereld promoten.

Het is het zoveelste voorbeeld van hoe desinformatie zich razendsnel verspreidt op het platform. Dit is een lastig onderwerp dat herhaaldelijk ter sprake is gekomen in recente beleidsdebatten, vooral nu Amerikaanse wetgevers overwegen om de app te verbieden om redenen van nationale veiligheid.

Kwaadaardige video's met spookachtige achtergrondmuziek, afbeeldingen en zelfs de stemmen van beroemdheden, gegenereerd door kunstmatige intelligentie (AI), trekken vaak miljoenen views op TikTok. Vooral complottheorieën worden vaak geplaatst door anonieme accounts.

TikTok-onderzoeker Abbie Richards zegt dat dergelijke video's financieel voordelig kunnen zijn voor TikTok-makers, via een programma voor makers op het platform.

Deze ‘huisnijverheid’ wordt aangestuurd door AI-hulpmiddelen die overal en gratis beschikbaar zijn.

Een woordvoerder van TikTok benadrukte dat complottheorieën niet in aanmerking komen voor monetisatie of aanbevelingen in de feeds van gebruikers.

Deze persoon beweerde dat schadelijke misinformatie zou worden verboden en dat het veiligheidsteam 95% ervan proactief zou verwijderen voordat er rapporten van gebruikers zouden worden ontvangen.

De zorgen over door AI gegenereerde desinformatie zijn dit jaar bijzonder groot, aangezien er wereldwijd grote verkiezingen worden verwacht.

Europa en Amerika zijn allebei bang voor TikTok

Vorige week zette de Europese Unie (EU) de Digital Services Act (DSA) in om druk uit te oefenen op diverse platforms, waaronder TikTok, om de risico's van AI aan te pakken die een negatieve impact zouden kunnen hebben op de komende verkiezingen in de 27 landen.

In de VS, een land met ongeveer 170 miljoen TikTok-gebruikers, steunden wetgevers vorige week ook met overweldigende meerderheid een wetsvoorstel om TikTok te verbieden.

Het wetsvoorstel, dat op 13 maart door het Huis van Afgevaardigden werd aangenomen, vereist dat moederbedrijf ByteDance maatregelen neemt om binnen 180 dagen afstand te doen van de controle over de TikTok-app. Anders wordt de app verboden in de appstores van Apple en Google in de VS.

Dit wordt gezien als de grootste bedreiging tot nu toe voor de video-app TikTok, die wereldwijd razend populair is geworden vanwege beschuldigingen van auteursrechtschending en misbruik van gebruikersgegevens. TikTok heeft de beschuldigingen herhaaldelijk ontkend.

Bron