Відео, на якому підозрюваний штучний інтелект видає себе за людину з інвалідністю для продажу товарів, викликало обурення

У соціальних мережах з'явилося багато відео, на яких люди з інвалідністю продають товари з незвичайними вивісками, що викликає недовіру в громаді.

Обліковий запис, що використовує штучний інтелект, щоб видавати себе за продавця. Фото: TikTok .

З появою низки передових інструментів штучного інтелекту останнім часом створення фотографій та відео стало набагато простішим за допомогою лише кількох команд. Однак здатність інтернет-користувачів розрізняти справжнє та підроблене не встигає за цим розвитком і деякими суб'єктами використовується з метою отримання прибутку.

Нещодавно в соціальних мережах поширився акаунт у TikTok, де публікується серія відео про жінку з ампутованими обома руками, яка змушена продавати товари, щоб утримувати своїх маленьких дітей. У відео ця людина одягнена в простий одяг, співчутливо розповідає про такі продукти, як паперові рушники та миючий засіб.

Згідно з записом, жінка розповіла про ситуацію зі смертю чоловіка внаслідок нещасного випадку, оскільки їй довелося самостійно виховувати маленьку дитину, але ця історія не була послідовною у відео. Акаунт отримав понад мільйон переглядів та взаємодій, збільшивши кількість підписників на 100 000 за 3 дні після створення каналу. Багато людей висловлювали співчуття, закликали до підтримки та навіть замовляли товари, щоб допомогти.

Користувачі продовжують знаходити акаунти зі схожим контентом. Спільним для цих каналів є те, що вони є нещодавно створеними особистими сторінками, не мають реальної історії взаємодії та часто поширюють надмірно емоційний контент.

Ці канали часто нові та не мають чіткого профілю.

Однак через деякий час користувачі мережі помітили щось незвичайне та незв'язне в кожному відео. Наприклад, ампутована рука жінки виглядала дуже гладкою, фарба стін будинку була іншою, або дитина лежала незвично нерухомо. Причина полягала в тому, що всі кліпи були створені штучним інтелектом, щоб обдурити інших.

Варто зазначити, що попередження або викривальні коментарі були приховані або видалені власником облікового запису. Багато людей образилися на обман, а також обурилися поведінкою, пов’язаною з наживою на співчутті людей.

Крім того, ці фейкові відео також впливають на власників та інших людей з інвалідністю, які заробляють на життя на тій самій платформі. Пані Тран Тхі Нга (36 років) з Фу Тхо , власниця каналу Nga Tich Cuc, була змушена постійно говорити, що в неї справді ампутована рука.

Наприкінці 2024 року ця людина захворіла на гострий вірусний міокардит і була змушена ампутувати всі кінцівки, розпочавши життя спочатку з любов’ю своєї родини. У нещодавній прямій трансляції вона висловила свій смуток через сумніви та різкі слова, які вона отримала.

Ці новостворені канали також швидко набрали велику кількість підписників, що ускладнювало їх диференціацію. Інший обліковий запис зі схожим контентом під назвою NLS збільшився майже на 50 000 підписників лише після одного відео.

Користувачі висловлювали обурення та втрату довіри, коли їх обманювали.

Тому не можна звинувачувати онлайн-спільноту в тому, що вона поступово втрачає віру в побачене, і таким чином більше не піклується про тих, хто справді потребує допомоги. В одному з коментарів йшлося про те, що тих, хто використовує технології штучного інтелекту для експлуатації емоцій спільноти, слід засудити.

Схеми кібершахрайства стають дедалі витонченішими, їхня мета – люди з обмеженим контактом або люди похилого віку. Більшість власників облікових записів використовують зображення людей, які страждають від травм, таких як госпіталізація чи інвалідність, а потім прикріплюють кошики для покупок або залишають номери облікових записів, щоб зателефонувати за підтримкою.

Раніше CNBC виявив понад 30 акаунтів в Instagram, YouTube та TikTok, які використовували штучний інтелект, щоб видавати себе за людей із синдромом Дауна. Ці люди використовували болісні історії, щоб залучити підписників та закликати до збору коштів громадою, але насправді вони привласнювали акаунти собі.

Цей інцидент попереджає про можливість використання зловмисниками здатності штучного інтелекту відтворювати реалістичний контент. Оскільки технології стрімко розвиваються, користувачам необхідно популяризувати їх, а також допомагати своїм близьким уникнути того, щоб стати жертвами онлайн-шахраїв.

Джерело: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html