Video av mistenkt AI som utgir seg for å være en funksjonshemmet person for å selge varer vekker opprør

Konto som bruker AI for å utgi seg for å være selger. Foto: TikTok .

Med fremveksten av en rekke avanserte AI-verktøy i nyere tid har det blitt mye enklere å lage bilder og videoer med bare noen få kommandoer. Internettbrukernes evne til å skille mellom ekte og falskt har imidlertid ikke holdt tritt med denne utviklingen, og har blitt utnyttet av noen for profitt.

I det siste har en TikTok-konto spredt seg på sosiale medier, med en rekke videoer om en kvinne med begge armene amputert og som må selge varer for å forsørge sine små barn. I klippene har denne personen på seg enkle klær, snakker sympatisk for å introdusere produkter som tørkepapir og vaskemiddel.

Ifølge journalen delte kvinnen ektemannens situasjon med tidlig død på grunn av en ulykke, der hun måtte oppdra et lite barn alene, men historien var ikke konsistent gjennom videoene. Kontoen fikk mer enn millioner av visninger og interaksjoner, og økte med 100 000 følgere i løpet av tre dager etter at kanalen ble opprettet. Mange uttrykte sympati, ba om støtte og bestilte til og med produkter for å hjelpe.

Brukere fortsetter å oppdage kontoer med lignende innhold. Det disse kanalene har til felles er at de er nyopprettede personlige sider, ikke har noen reell interaksjonshistorikk, og ofte deler overdrevent emosjonelt innhold.

Disse kanalene er ofte nye og har ikke en tydelig profil.

Etter en stund la imidlertid nettbrukere merke til noe uvanlig og usammenhengende i hver video. For eksempel så kvinnens amputerte arm veldig glatt ut, husets veggmaling var annerledes, eller babyen lå uvanlig stille. Årsaken var at alle klippene ble laget av AI for å lure andre.

Det er verdt å merke seg at advarselen eller avslørende kommentarer ble skjult eller slettet av kontoeieren. Mange følte seg fornærmet over å bli lurt, samt indignerte over oppførselen med å tjene på folks sympati.

I tillegg påvirker disse falske videoene også eierne og andre funksjonshemmede som tjener til livets opphold på samme plattform. Fru Tran Thi Nga (36 år gammel) i Phu Tho , eier av Nga Tich Cuc-kanalen, måtte stadig snakke om at hun faktisk hadde en amputert arm.

På slutten av 2024 fikk denne personen akutt viral myokarditt og ble tvunget til å amputere alle lemmene sine, og dermed starte livet på nytt med familiens kjærlighet. I en nylig direktesending uttrykte hun sin sorg over å bli tvilt og ha mottatt harde ord.

Disse nyopprettede kanalene fikk også raskt et høyt antall følgere, noe som gjorde det vanskeligere å skille seg ut. En annen konto med lignende innhold kalt NLS økte med nesten 50 000 følgere etter bare én video.

Brukere uttrykte indignasjon og tap av tillit når de ble lurt.

Derfor er det ikke mulig å klandre nettsamfunnet for gradvis å miste troen på det de ser, og dermed ikke lenger bry seg om de som virkelig trenger hjelp. Én kommentar sa at de som bruker AI-teknologi til å utnytte følelsene i samfunnet, bør fordømmes.

Nettsvindel blir stadig mer sofistikerte, og retter seg mot personer med lite kontakt eller eldre. De fleste kontoinnehavere bruker bilder av personer som lider av traumer, som sykehusinnleggelse eller funksjonshemming, og legger deretter til handlekurver eller legger igjen kontonumre for å ringe for å få hjelp.

Tidligere oppdaget CNBC mer enn 30 Instagram-, YouTube- og TikTok-kontoer som brukte kunstig intelligens til å utgi seg for å være personer med Downs syndrom. Disse personene brukte hjerteskjærende historier for å tiltrekke seg følgere og oppfordre til innsamling av penger i lokalsamfunnet, men i virkeligheten tilegnet de seg kontoene.

Hendelsen advarer om muligheten for at AIs evne til å reprodusere realistisk innhold kan bli utnyttet av skurker. Etter hvert som teknologien utvikler seg raskt, må brukerne popularisere den, samt hjelpe sine kjære med å unngå å bli ofre for nettsvindel.

Kilde: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html