Skadelig AI-generert innhold florerer på TikTok.

Når AI tegner vampyrer

Ifølge en rapport fra den ideelle organisasjonen Media Matters tjener TikTok-brukere i økende grad penger på videoer som sprer ubegrunnet informasjon om «konspirasjonsteorier» knyttet til verdens undergang.

Dette er den siste illustrasjonen av hvordan feilinformasjon sprer seg i halsbrekkende fart på denne plattformen – et vanskelig spørsmål som har blitt reist gjentatte ganger i den siste tidens politiske debatter, spesielt ettersom amerikanske lovgivere vurderer å forby appen av nasjonale sikkerhetshensyn.

Skadelige videoer med skummel bakgrunnsmusikk, akkompagnert av bilder og til og med med kjendisstemmer skapt av kunstig intelligens (KI), tiltrekker seg ofte millioner av visninger på TikTok. Spesielt videoer med konspirasjonsteorier legges ofte ut av anonyme kontoer.

TikTok-forsker Abbie Richards sier at slike videoer kan tilby økonomiske fordeler til innholdsskapere på TikTok gjennom et skaperprogram på plattformen.

Denne «lille industrien» støttes av allment tilgjengelige og gratis AI-verktøy.

En talsperson for TikTok understreket på sin side at «konspirasjonsteorier ikke er kvalifisert for inntektsgenerering eller anbefaling» i brukernes feeder.

Denne personen hevdet at skadelig feilinformasjon ville bli forbudt, og at sikkerhetsteamet proaktivt ville fjerne 95 % av slik informasjon før de mottok rapporter fra brukere.

Bekymringen rundt ondsinnet informasjon generert av AI er spesielt høy i år, med flere store valg som forventes å finne sted rundt om i verden.

Både Europa og USA er bekymret for TikTok.

Forrige uke påberopte EU seg loven om digitale tjenester (DSA) for å legge press på flere plattformer, inkludert TikTok, til å håndtere risikoen for at AI potensielt kan påvirke kommende valg i den 27 landene.

I USA, hvor TikTok har omtrent 170 millioner brukere, støttet lovgivere overveldende et lovforslag om å forby TikTok forrige uke.

Lovforslaget, som ble vedtatt av Representantenes hus 13. mars, krever at morselskapet ByteDance tar grep for å gi fra seg kontrollen over TikTok-appen innen 180 dager, ellers vil appen bli utestengt fra Apple- og Google-appbutikkene i USA.

Dette regnes som den største trusselen mot videodelingsappen TikTok, som har blitt svært populær over hele verden, på grunn av påstander om brudd på opphavsretten og misbruk av brukerdata. TikTok har gjentatte ganger benektet disse påstandene.

Kilde: https://tuoitre.vn/tran-lan-noi-dung-doc-hai-do-ai-sang-tao-tren-tiktok-20240318154255464.htm