Який би вид ви не забажали, у нас він є.
Під час перегляду веб-сторінок на телефоні в кафе пані Лоан була вражена, побачивши на екрані зображення літнього чоловіка, який заходить до «караоке-бару», одночасно кличе п’ятьох молодих, привабливих жінок і шалено танцює... «Обличчя цього старого було дуже схоже на моє. Образ був поза межами уяви; що б ми сказали нашим маленьким дітям, якби вони це побачили... це була б велика проблема», – поділилася пані Лоан.
У соціальних мережах зараз багато відео зі штучним інтелектом із вульгарним контентом, від аудіо до візуальних матеріалів.
Інші зображення включають літнього чоловіка, який везе на мотоциклі трьох молодих, ледь одягнених дівчат, що мчить вулицями. Водій кричить: «Відійдіть від моєї спини, ви двоє! Як я можу це терпіти, коли ці гвинти тиснуть мені на спину...?» Або зображення дівчини в бікіні, яка бере інтерв'ю у старого чоловіка на ринку, відпускаючи зневажливі зауваження про жінок; або ж бере інтерв'ю у нього про його колишню дівчину з вульгарними відповідями...
«Наразі на платформах соціальних мереж є сотні, навіть тисячі відео, створених за допомогою інструментів штучного інтелекту, на яких зображені ледь одягнені дівчата, вульгарні діалоги, пов’язані з фізіологією та сексом, а також відео, що порушують культурні цінності, і які потрапляють до мобільних користувачів за допомогою інтелектуальних алгоритмів. Будь-хто може створити будь-яке відео, яке забажає», – стурбований Тхань Хоай, банківський працівник.
Сьогодні інструменти для створення відео на основі штучного інтелекту є поширеними, такі як HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video тощо. Кожен інструмент має свої сильні сторони з точки зору функцій, якості зображення, можливостей персоналізації аватарів, багатомовної підтримки або інтеграції озвучування та спецефектів на основі штучного інтелекту. Відео на основі штучного інтелекту з «реалістичною» якістю та «надмірними» зображеннями та звуками, як згадувалося вище, часто з'являються в Інтернеті, здебільшого створені за допомогою Google Veo 3 AI. Ця модель штучного інтелекту здатна створювати відео з підказок, інтегруючи яскравий звук, такий як діалоги між персонажами або звуки тварин, і вважається значним прогресом порівняно з іншими моделями штучного інтелекту, які створюють лише «німі» відео або відео з простою фоновою музикою.
ШІ-відео, особливо провокаційні або вульгарні, швидко набирають популярності серед мобільних користувачів, оскільки багато хто може підписатися на пакети постачальників інструментів ШІ вартістю від кількох десятків до кількох сотень доларів на місяць. Водночас багато людей пропонують комплексні послуги зі створення відео на основі ШІ, такі як базові пакети (короткі відео, середні зображення), розширені пакети (високоякісні відео з багатьма ефектами) та професійні пакети (креативні відео з розширеними функціями)... причому ціни варіюються залежно від тривалості, складності та додаткових функцій, таких як озвучка, багатомовні субтитри та SEO-оптимізація. «Який би тип ШІ-відео ви не хотіли, у нас він є. Навіть якщо ви хочете образливо-кумедний контент, провокаційні зображення на публіці чи шокуючі діалоги... ми можемо зробити все це», – стверджує Тронг Хоа, творець контенту для соціальних мереж.
Багато непередбачуваних наслідків
Google стверджує, що весь контент, згенерований Veo 3, позначений водяним знаком SynthID – технологією від DeepMind, яка допомагає відстежувати та ідентифікувати контент, згенерований штучним інтелектом. Крім того, компанія надає рекомендації щодо безпечного використання, підкреслюючи свою мету допомогти користувачам відповідально створювати та ідентифікувати контент, створений штучним інтелектом…
Однак, з появою відео на основі штучного інтелекту загалом та, зокрема, за допомогою інструменту Veo 3, етичні питання ШІ піднімаються з певної точки зору. ШІ спотворює культурну ідентичність: оскільки ШІ може створювати «гібридні» версії національної культури, спричиняючи плутанину щодо походження, втрачаючи душу культурної ідентичності та зрештою ускладнюючи для спільноти розрізнення між оригінальними цінностями та варіаціями. Порушення прав культурної власності: оскільки ШІ може легко збирати, копіювати та відтворювати культурні елементи без визнання чи захисту авторських прав, що призводить до широкого використання традиційних цінностей. Соціально-психологічний вплив: часте стикання з фальшивим контентом призводить до того, що користувачі плутаються та сумніваються в достовірності всієї інформації, що впливає на соціальну довіру та спільні культурні цінності.
«Швидкий розвиток цієї технології призвів до того, що правові норми, заходи захисту авторських прав та методи автентифікації не встигають за змінами, що призводить до багатьох проблем у збереженні та просуванні традиційних культурних цінностей. Veo 3 — це не просто розважальний інструмент, а й прорив у сферах медіа, освіти , маркетингу та навіть кіно. Однак, поряд з можливостями, існують значні виклики, включаючи ризик зловживання технологіями, заміну людей у креативних індустріях та супутні етичні проблеми. Тому роль політики, етичних стандартів та навчання цифровим навичкам для спільноти надзвичайно важлива для відповідальної розробки та використання штучного інтелекту, такого як Veo 3», — поділився Фан Фуок Куок, директор компанії GenZ.
З іншої точки зору, з розвитком інструментів штучного інтелекту зростає і ризик кібератак. Чим складнішими стають інструменти для створення відео на основі штучного інтелекту, тим більшим є ризик кібератак із застосуванням методу deepfake, що призводить до появи нових і більш небезпечних форм атак. За даними Kaspersky (однієї з найбільших у світі компаній-розробників антивірусного програмного забезпечення), атака з використанням методу deepfake відбувається в середньому кожні 5 хвилин, і прогнозується, що до 2026 року до 90% онлайн-контенту може бути створено за допомогою штучного інтелекту. Основними цілями атак з використанням методу deepfake залишаються звичайні користувачі, оскільки їхня особиста, банківська та платіжна інформація піддається компрометації.
«Ризик поширення дезінформації та фейкового контенту за допомогою технології діпфейків викликає занепокоєння у багатьох людей. Інструменти штучного інтелекту, такі як Veo 3, можуть бути використані для створення фейкового контенту, що впливає на репутацію окремих осіб та організацій або спричиняє порушення соціальної інформації», – сказав пан Ву Нгок Сон, керівник відділу досліджень, консалтингу, розвитку технологій та міжнародного співробітництва Національної асоціації кібербезпеки (NCA).
БА ТАН
Джерело: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Коментар (0)