Присмотревшись ещё раз, она поняла, что это всего лишь фотография, созданная искусственным интеллектом на странице в Facebook для иллюстрации сентиментального поста. Стоит отметить, что это был уже второй раз, когда искусственный интеллект «почти» её обманул. До этого она также принимала видео «встреча пенсионеров с летним отдыхом» за реальных людей и реальные события.

Работая в сфере СМИ и регулярно сталкиваясь с контентом ИИ, г-жа Линь вынуждена была признать, что эта технология развилась так быстро и усложнилась, что теперь сложно отличить правду от подделки.

скриншот 1749203761184.png
Вирусное фото на Facebook было создано искусственным интеллектом. Скриншот.

Эксперты также согласны с этой точкой зрения. Такие инструменты, как Google Veo 3, Kling AI, DALL·E 3, Midjourney... достигли возможности создания невероятно реалистичных изображений и видео.

Г-н До Нху Лам, директор по обучению Института блокчейн-технологий и искусственного интеллекта ABAII, отметил, что благодаря мультимодальной технологии и передовым языковым моделям эти инструменты могут синхронизировать изображения, звуки, выражения лица и естественные движения, создавая весьма убедительные продукты.

W-Photo by Mr. Do Nhu Lam.jpg
Г-н До Нху Лам, директор по обучению Института блокчейн-технологий и искусственного интеллекта (ABAII), отметил, что передовые технологии искусственного интеллекта позволяют создавать исключительно убедительные продукты. Фото: NVCC

Г-н Лэм отметил, что развитие искусственного интеллекта открывает огромный потенциал в таких областях, как создание контента, реклама, развлечения и образование . Однако эта «реалистичная» способность к воссозданию также создаёт множество проблем в области этики, контроля и информационной безопасности, поскольку граница между реальностью и виртуальностью становится всё более размытой.

Публикация в Facebook, которую увидела г-жа Линь, привлекла почти 300 000 взаимодействий и более 16 000 комментариев. Многие пользователи поспешили поздравить или выразить свои чувства, не подозревая, что это всего лишь иллюстрация искусственного интеллекта. Некоторые более «трезвые» пользователи критиковали «пользователей сети за то, что они слишком наивны», чтобы позволить искусственному интеллекту обмануть их.

В группах и форумах Facebook нетрудно увидеть видеоролики, созданные и распространяемые пользователями с помощью искусственного интеллекта. В частности, появление Google Veo 3 значительно повысило качество видео, особенно благодаря голосу, который соответствует форме рта персонажа. Если не быть внимательным и невнимательным, зрители могут легко запутаться.

Сохраняя рассудок в эпоху искусственного интеллекта

Фотографии и видео, созданные с помощью ИИ, сложно распознать, что представляет серьёзную угрозу для пользователей, особенно для уязвимых групп, не владеющих технологиями. По словам г-на Ву Тхань Тханга, директора по искусственному интеллекту (CAIO) акционерной компании SCS Cyber ​​Security, киберпреступники используют ИИ для мошенничества (обхода биометрических систем, eKYC и т.д.), выдавая себя за известных людей для распространения ложной информации и сеяния общественного беспокойства. Известно множество случаев, когда высокотехнологичные преступники используют ИИ для создания фейковых фотографий, выдавая себя за родственников для видеозвонков с целью выманивания денег.

Г-н Ву Тхань Тханг.jpg
Г-н Ву Тхань Тханг, директор по искусственному интеллекту (CAIO) акционерной компании SCS Cyber ​​Security, заявил, что мы вступили в эпоху, когда подделать можно всё. Фото: NVCC

По словам г-на Тана, компании также являются потенциальными целями для киберпреступников. Они могут использовать искусственный интеллект (ИИ) для выдачи себя за сотрудников, обхода систем безопасности для разблокировки доступа и выдачи себя за руководителей компаний, чтобы опорочить и подорвать их репутацию.

Разделяя это мнение, г-н До Нху Лам из ABAII указал на три последствия использования искусственного интеллекта для отдельных пользователей: финансовое мошенничество, клевета на репутацию и эксплуатация личной информации. Что касается бизнеса, компания Arup потеряла 25 миллионов долларов США после того, как сотрудники её гонконгского филиала были обмануты и вынуждены участвовать в фейковой видеовстрече и перевести деньги по запросу.

Все, что вам нужно знать о Veo 3, современном инструменте искусственного интеллекта для создания вирусных видеороликов. Последняя модель искусственного интеллекта для создания видеороликов от Google — Veo 3 — впечатляет своей способностью создавать реалистично синхронизированный звук с изображениями.

Другой не менее серьезный риск заключается в том, что, когда люди не смогут отличить правду от фейка, общественное доверие к средствам массовой информации и официальным источникам новостей будет подорвано.

Г-н Лэм сослался на отчет Института Рейтер за 2024 год, в котором говорится, что процент пользователей во всем мире, доверяющих новостям на медиаплатформах, упал до самого низкого уровня за последнее десятилетие, в основном из-за появления фейкового контента.

По словам эксперта Ву Тхань Тханг, «мы живем в эпоху, когда любая информация может быть подделана и больше не является «риском». Поэтому необходимо повышать осведомленность и применять меры индивидуальной защиты, а также изучать ИИ, чтобы жить в мире .

Оба эксперта рекомендуют пользователям всегда проверять и подтверждать информацию перед принятием решений; вооружиться знаниями, позволяющими выявлять фейковый контент; ограничить распространение личной информации в интернете; и сообщать о фактах распространения фейкового контента. «Только проявляя активность и знание своего дела, пользователи могут по-настоящему защитить себя и внести свой вклад в создание более безопасного киберпространства в цифровую эпоху», — сказал г-н Лэм.

Обеспокоенный вымиранием человечества из-за ИИ, «крёстный отец» Йошуа Бенджио только что кое-что сделал . «Крёстный отец» ИИ Йошуа Бенджио только что основал некоммерческую организацию, целью которой является создание безопасных систем искусственного интеллекта вместо того, чтобы показывать людям опасные личности.

Источник: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html