Felháborodást keltett egy videó, amelyen egy feltételezett mesterséges intelligencia egy fogyatékkal élő személynek adja ki magát, hogy árukat adjon el

A közösségi oldalakon számos videó látható fogyatékkal élőkről, akik szokatlan táblákkal ellátott árukat árulnak, bizalmatlanságot keltve a közösségben.

Mesterséges intelligencia segítségével megszemélyesített fiók. Fotó: TikTok .

Az utóbbi időben megjelent számos fejlett mesterséges intelligencia eszköznek köszönhetően a fényképek és videók készítése sokkal egyszerűbbé vált, mindössze néhány paranccsal. Az internetfelhasználók azon képessége azonban, hogy különbséget tudjanak tenni a valódi és a hamisított között, nem tartott lépést ezzel a fejlődéssel, és egyesek profitszerzés céljából kihasználták ezt a képességet.

Az utóbbi időben egy TikTok-fiók kezdett terjedni a közösségi médiában, amely videósorozatot tett közzé egy mindkét karját amputáló nőről, akinek árucikkeket kell eladnia, hogy eltarthassa kisgyermekeit. A klipekben a személy egyszerű ruhákat visel, együttérzően beszél, és olyan termékeket mutat be, mint a papírtörlő és a mosószer.

A feljegyzés szerint a nő megosztotta férje balesetben bekövetkezett korai halálának történetét, miután egyedül kellett felnevelnie egy kisgyermeket, de a történet a videókon keresztül nem volt egységes. A fiók több mint millió megtekintést és interakciót kapott, és a csatorna létrehozását követő 3 nap alatt 100 000 követővel bővült. Sokan fejezték ki együttérzésüket, támogatást kértek, sőt, termékeket is rendeltek segítségül.

A felhasználók továbbra is hasonló tartalmú fiókokat fedeznek fel. Ezeknek a csatornáknak a közös vonása, hogy újonnan létrehozott személyes oldalak, nincs valódi interakciós előzményük, és gyakran túlságosan érzelmes tartalmakat osztanak meg.

Ezek a csatornák gyakran újak és nincs egyértelmű profiljuk.

Egy idő után azonban a netezők valami szokatlant és összefüggéstelent vettek észre minden videóban. Például a nő amputált karja nagyon simának tűnt, a ház falának festése más volt, vagy a baba szokatlanul mozdulatlanul feküdt. Ennek az volt az oka, hogy az összes klipet mesterséges intelligencia készítette, hogy megtévessze a többieket.

Érdemes megjegyezni, hogy a figyelmeztető vagy leleplező hozzászólásokat a fiók tulajdonosa elrejtette vagy törölte. Sokan sértve érezték magukat a becsapás miatt, valamint felháborodtak azon a viselkedésen, hogy az emberek szimpátiájából hasznot húztak.

Ráadásul ezek a hamis videók a tulajdonosokat és más, ugyanazon a platformon megélhetést biztosító fogyatékkal élőket is érintik. A Phu Tho -ban élő Tran Thi Nga (36 éves), a Nga Tich Cuc csatorna tulajdonosának folyamatosan azt kellett hangoztatnia, hogy valójában amputált karja van.

2024 végén ez a személy akut vírusos szívizomgyulladást kapott, és kénytelen volt amputálni az összes végtagját, így családja szeretetével újrakezdhette az életét. Egy nemrégiben tartott élő közvetítésben szomorúságát fejezte ki amiatt, hogy kétségbe vonták és durva szavakat kapott.

Ezek az újonnan létrehozott csatornák gyorsan sok követőre tettek szert, ami megnehezítette a megkülönböztetést. Egy másik, hasonló tartalmú fiók, az NLS, közel 50 000 követővel nőtt mindössze egyetlen videó után.

A felhasználók felháborodásukat és bizalomvesztésüket fejezték ki, amikor megtévesztették őket.

Ezért nem lehet az online közösséget hibáztatni azért, mert fokozatosan elveszítik a hitüket abban, amit látnak, és így már nem törődnek azokkal, akiknek valóban segítségre van szükségük. Az egyik hozzászólás szerint el kell ítélni azokat, akik mesterséges intelligencia technológiát használnak a közösség érzelmeinek kihasználására.

A kibercsalási rendszerek egyre kifinomultabbá válnak, és kevés kapcsolatot ápoló vagy idős embereket céloznak meg. A legtöbb számlatulajdonos traumát átélt, például kórházi kezelést vagy fogyatékosságot átélt emberek képeit használja, majd bevásárlókocsikat csatol hozzájuk, vagy számlaszámokat hagy meg, hogy segítséget kérhessen.

A CNBC korábban több mint 30 Instagram-, YouTube- és TikTok-fiókot fedezett fel, amelyek mesterséges intelligenciát használtak Down-szindrómás embereknek adták ki magukat. Ezek az emberek szívszorító történeteket használtak fel követők vonzására és közösségi adománygyűjtésre való felhívásra, de valójában kisajátították a fiókokat maguknak.

Az incidens arra figyelmeztet, hogy fennáll annak a lehetősége, hogy a mesterséges intelligencia valósághű tartalmak reprodukálására való képességét rosszindulatú szereplők kihasználhatják. Ahogy a technológia gyorsan fejlődik, a felhasználóknak népszerűsíteniük kell azt, valamint segíteniük kell szeretteiket abban, hogy elkerüljék az online csalások áldozatait.

Forrás: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html