Придивившись ще раз, вона зрозуміла, що це просто фотографія, створена штучним інтелектом, яка використовується сторінкою у Facebook для ілюстрації сентиментального допису. Варто зазначити, що це був другий раз, коли її «майже» обдурив штучний інтелект. До цього вона також сплутала відео «„пенсіонери“ зустрічають „літніх відпочивальників“» зі справжніми людьми та справжніми подіями.

Працюючи в медіасфері та регулярно стикаючись із контентом, створеним штучним інтелектом, пані Лінь мусила визнати, що ця технологія розвивалася настільки швидко та складно, що важко відрізнити справжнє від фальшивого.

знімок екрана 1749203761184.png
Вірусне фото у Facebook було створене штучним інтелектом. Знімок екрана.

Експерти також погоджуються з цією точкою зору. Такі інструменти, як Google Veo 3, Kling AI, DALL·E 3, Midjourney... досягли можливості створювати неймовірно реалістичні зображення та відео.

Пан До Нху Лам, директор з навчання Інституту блокчейн-технологій та штучного інтелекту ABAII, зазначив, що завдяки мультимодальній технології та передовим мовним моделям ці інструменти можуть синхронізувати зображення, звуки, міміку та природні рухи, створюючи дуже переконливі продукти.

W-Фотографія пана До Нху Лама.jpg
Пан До Нху Лам, директор з навчання Інституту блокчейн-технологій та штучного інтелекту ABAII, зазначив, що передові технології штучного інтелекту створюють дуже переконливі продукти. Фото: NVCC

Пан Лам зазначив, що досягнення штучного інтелекту відкривають великий потенціал у таких сферах, як створення контенту, реклама, розваги та освіта . Однак ця «реалістична» здатність до відтворення також створює багато проблем в етиці, контролі та інформаційній безпеці, оскільки межа між реальністю та віртуальністю дедалі більше розмивається.

Публікація у Facebook, яку побачила пані Лінь, зібрала майже 300 000 взаємодій та понад 16 000 коментарів. Багато користувачів поспішали привітати або висловити свої почуття, не знаючи, що це лише ілюстрація, створена штучним інтелектом. Деякі більш «тверезі» люди розкритикували «користувачів мережі за те, що вони надто наївні», щоб дозволити штучному інтелекту обдурити їх.

У групах та на форумах Facebook неважко побачити відео зі штучним інтелектом, створені та поширені користувачами. Зокрема, поява Google Veo 3 значно покращила якість відео, особливо голос, який відповідає формі рота персонажа. Якщо не звертати уваги та не дивитися уважно, глядачі можуть легко заплутатися.

Залишатися здоровим глуздом в епоху штучного інтелекту

Фотографії та відео, зроблені штучним інтелектом, важко розрізнити, що створює великі ризики для користувачів, особливо для вразливих груп, які не володіють технологіями. За словами пана Ву Тхань Тханга, директора зі штучного інтелекту (CAIO) акціонерної компанії SCS Cyber ​​​​Security, штучний інтелект використовується кіберзлочинцями для шахрайства (обхід біометричних систем, eKYC...), видання себе за відомих людей для поширення неправдивої інформації, що призводить до плутанини у громадськості. Існує багато випадків, коли високотехнологічні злочинці використовують штучний інтелект для створення фейкових фотографій, видають себе за родичів для здійснення відеодзвінків з метою шахрайського виманювання грошей.

Пан Ву Тхань Тханг.jpg
Пан Ву Тхань Тханг – директор зі штучного інтелекту (CAIO) акціонерної компанії SCS Cyber ​​​​Security – сказав, що ми вступили в епоху, коли все можна підробити. Фото: NVCC

За словами пана Тханга, бізнес також є потенційними цілями для злочинців, що використовують штучний інтелект. Вони можуть використовувати AI Deepfake, щоб видавати себе за співробітників, обходити системи безпеки для розблокування обліку відвідуваності та видавати себе за бізнес-лідерів, щоб очорнити та зруйнувати репутацію.

Поділяючи таку ж думку, пан До Нху Лам з ABAII вказав на три наслідки використання штучного інтелекту для окремих користувачів: фінансове шахрайство, дискредитація репутації та використання приватної інформації. Для бізнесу компанія Arup втратила 25 мільйонів доларів США після того, як співробітників її гонконгського відділення обманом змусили взяти участь у відеозустрічі з використанням технології deepfake та переказати гроші на прохання.

Все, що вам потрібно знати про Veo 3, сучасний вірусний інструмент штучного інтелекту для створення відео . Найновіша модель штучного інтелекту від Google для створення відео – Veo 3 – вражає своєю здатністю створювати реалістично синхронізований звук із зображеннями.

Ще один не менш серйозний ризик полягає в тому, що коли люди не можуть розрізнити справжнє від фальшивого, довіра громадськості до ЗМІ та офіційних джерел новин буде підірвана.

Пан Лам навів звіт Інституту Рейтерс за 2024 рік, який показує, що відсоток користувачів у світі, які довіряють новинам на медіаплатформах, впав до найнижчого рівня за десятиліття, значною мірою через появу діпфейкового контенту.

За словами експерта Ву Тхань Тханга, «ми живемо в епоху, коли будь-яку інформацію можна підробити і вона більше не є «ризиком»». Тому необхідно підвищувати обізнаність, застосовувати заходи особистого захисту та вивчати штучний інтелект, щоб жити в мирі .

Два експерти рекомендують користувачам завжди перевіряти та підтверджувати автентичність інформації перед прийняттям рішень; озброїтися знаннями для виявлення фальшивого контенту; обмежувати обмін особистою інформацією в Інтернеті; та повідомляти про випадки поширення фальшивого контенту. «Лише будучи проактивними та обізнаними, користувачі можуть по-справжньому захистити себе та зробити свій внесок у побудову безпечнішого кіберпростору в цифрову епоху», – сказав пан Лам.

Стурбований вимиранням людства через штучний інтелект, «хрещений батько» Йошуа Бенхіо щойно щось зробив . «Хрещений батько» ШІ Йошуа Бенхіо щойно заснував некомерційну організацію з метою створення безпечних систем штучного інтелекту, замість того, щоб показувати людям небезпечні особистості.

Джерело: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html