Giftig AI-generert innhold florerer på TikTok

Når AI tegner vampyrer

TikTok-brukere tjener i økende grad penger på videoer som fremmer ubegrunnede «konspirasjonsteorier» om verdens undergang, ifølge en rapport fra den ideelle organisasjonen Media Matters.

Det er den siste illustrasjonen av hvordan feilinformasjon sprer seg i halsbrekkende fart på plattformen – et vanskelig tema som gjentatte ganger har dukket opp i den siste tidens politiske debatter, spesielt ettersom amerikanske lovgivere vurderer å forby appen av hensyn til nasjonal sikkerhet.

Ondsinnede videoer med skummel bakgrunnsmusikk, bilder og til og med kjendisstemmer generert av kunstig intelligens (KI) tiltrekker seg ofte millioner av visninger på TikTok. Spesielt konspirasjonsvideoer legges ofte ut av anonyme kontoer.

TikTok-forsker Abbie Richards sa at slike videoer kan være økonomisk fordelaktige for TikTok-skapere, gjennom et skaperprogram på plattformen.

Denne «hytteindustrien» drives av AI-verktøy som er allment tilgjengelige og gratis.

En talsperson for TikTok understreket på sin side at «konspirasjonsteorier ikke er kvalifisert for inntektsgenerering eller anbefaling» i brukernes feeder.

Personen hevdet at ondsinnet feilinformasjon ville bli forbudt, og at sikkerhetsteamet proaktivt ville fjerne 95 % av den før de mottok rapporter fra brukere.

Bekymringen rundt AI-generert feilinformasjon er spesielt høy i år, med store valg som forventes å finne sted rundt om i verden.

Både Europa og USA er redde for TikTok

Forrige uke brukte EU loven om digitale tjenester (DSA) til å presse flere plattformer, inkludert TikTok, til å håndtere risikoen knyttet til kunstig intelligens som kan ha en negativ innvirkning på kommende valg i den 27 nasjonene.

I USA, som har rundt 170 millioner TikTok-brukere, støttet lovgiverne også overveldende et lovforslag om å forby TikTok forrige uke.

Lovforslaget, som ble vedtatt av Representantenes hus 13. mars, krever at morselskapet ByteDance tar grep for å gi fra seg kontrollen over TikTok-appen innen 180 dager, ellers vil appen bli utestengt fra Apples og Googles appbutikker i USA.

Dette blir sett på som den største trusselen hittil mot videodelingsappen TikTok, som har blitt utrolig populær verden over på grunn av påstander om brudd på opphavsretten og misbruk av brukerdata. TikTok har gjentatte ganger benektet påstandene.

Kilde: https://tuoitre.vn/tran-lan-noi-dung-doc-hai-do-ai-sang-tao-tren-tiktok-20240318154255464.htm