Video van vermoedelijke AI die zich voordoet als gehandicapte om goederen te verkopen, veroorzaakt verontwaardiging

Account dat zich voordoet als verkoper met behulp van AI. Foto: TikTok .

Met de opkomst van een reeks geavanceerde AI-tools is het maken van foto's en video's de laatste tijd veel eenvoudiger geworden met slechts een paar commando's. Het vermogen van internetgebruikers om echt van nep te onderscheiden, is echter niet met die ontwikkeling meegegaan en wordt door sommigen uitgebuit voor winst.

Onlangs verspreidde zich een TikTok-account op sociale media, met een reeks video's over een vrouw met beide armen geamputeerd die goederen moest verkopen om haar jonge kinderen te onderhouden. In de clips draagt deze persoon eenvoudige kleding en praat hij met sympathie over producten zoals keukenpapier en wasmiddel.

Volgens de gegevens deelde de vrouw de situatie van haar man, die door een ongeval vroegtijdig was overleden en alleen een klein kind moest opvoeden, maar het verhaal was niet consistent in de video's. Het account kreeg meer dan miljoenen views en interacties, en in de drie dagen na de oprichting van het kanaal groeide het aantal volgers met 100.000. Veel mensen betuigden hun medeleven, vroegen om steun en bestelden zelfs producten om te helpen.

Gebruikers blijven accounts met vergelijkbare content ontdekken. Wat deze kanalen gemeen hebben, is dat het nieuwe persoonlijke pagina's zijn, geen echte interactiegeschiedenis hebben en vaak overdreven emotionele content delen.

Vaak zijn deze kanalen nieuw en hebben ze geen duidelijk profiel.

Na een tijdje merkten internetgebruikers echter iets ongewoons en onsamenhangends op in elke video. Zo zag de geamputeerde arm van de vrouw er heel glad uit, was de muurverf van het huis anders, of lag de baby ongewoon stil. De reden hiervoor was dat alle clips door AI waren gemaakt om anderen voor de gek te houden.

Het is vermeldenswaard dat de waarschuwende of onthullende reacties door de accounteigenaar werden verborgen of verwijderd. Veel mensen voelden zich beledigd door de misleiding en verontwaardigd over het gedrag om te profiteren van de sympathie van anderen.

Bovendien hebben deze nepvideo's ook gevolgen voor de eigenaren en andere gehandicapten die via hetzelfde platform hun brood verdienen. Zo moest mevrouw Tran Thi Nga (36 jaar) in Phu Tho , eigenaar van het kanaal Nga Tich Cuc, voortdurend volhouden dat ze echt een geamputeerde arm had.

Eind 2024 kreeg deze vrouw acute virale myocarditis en moest ze al haar ledematen laten amputeren. Dankzij de liefde van haar familie kon ze haar leven opnieuw beginnen. In een recente livestream uitte ze haar verdriet over de twijfels en harde woorden die ze kreeg.

Deze nieuw gecreëerde kanalen kregen ook snel een groot aantal volgers, waardoor het lastiger werd om ze te onderscheiden. Een ander account met vergelijkbare content, NLS, kreeg er na slechts één video bijna 50.000 volgers bij.

Gebruikers uitten hun verontwaardiging en verlies van vertrouwen toen ze werden misleid.

Het is daarom niet mogelijk om de online gemeenschap de schuld te geven dat ze geleidelijk het vertrouwen in wat ze zien verliest en daardoor niet langer zorgt voor degenen die echt hulp nodig hebben. Een reactie luidde dat degenen die AI-technologie gebruiken om de emoties van de gemeenschap uit te buiten, veroordeeld moeten worden.

Cyberfraude wordt steeds geavanceerder en richt zich op mensen met weinig contact of ouderen. De meeste rekeninghouders gebruiken afbeeldingen van mensen die een trauma hebben opgelopen, zoals ziekenhuisopnames of invaliditeit, en koppelen vervolgens winkelwagentjes aan de rekeningen of laten rekeningnummers achter om hulp te vragen.

Eerder ontdekte CNBC al dat meer dan 30 Instagram-, YouTube- en TikTok-accounts AI gebruikten om zich voor te doen als mensen met het syndroom van Down. Deze personen gebruikten hartverscheurende verhalen om volgers te trekken en op te roepen tot fondsenwerving, maar in werkelijkheid eigenden ze zich de accounts toe.

Het incident waarschuwt voor de mogelijkheid dat het vermogen van AI om realistische content te reproduceren, wordt uitgebuit door kwaadwillenden. Naarmate de technologie zich razendsnel ontwikkelt, moeten gebruikers deze populariseren en hun dierbaren helpen voorkomen dat ze slachtoffer worden van online oplichting.

Bron: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html