Присмотревшись ещё раз, она поняла, что это всего лишь фотография, созданная искусственным интеллектом на странице Facebook для иллюстрации сентиментального поста. Примечательно, что это был уже второй раз, когда искусственный интеллект «почти» её обманул. До этого она также принимала видео «встреча пенсионеров с летним отдыхом» за реальных людей и реальные события.
Работая в медиаиндустрии и регулярно сталкиваясь с контентом ИИ, г-жа Линь вынуждена признать, что эта технология развилась так быстро и настолько сложно, что теперь сложно отличить правду от подделки.
Эксперты согласны с этой точкой зрения. Такие инструменты, как Google Veo 3, Kling AI, DALL·E 3, Midjourney... добились возможности создания невероятно реалистичных изображений и видео.
Г-н До Нху Лам, директор по обучению Института блокчейн-технологий и искусственного интеллекта ABAII, отметил, что благодаря мультимодальной технологии и передовым языковым моделям эти инструменты могут синхронизировать изображения, звуки, выражения лица и естественные движения, создавая весьма убедительные продукты.
Г-н Лэм отметил, что достижения в области искусственного интеллекта открывают огромный потенциал в таких областях, как создание контента, реклама, развлечения и образование . Однако эта способность к «подлинному» воссозданию также создаёт множество проблем в области этики, контроля и информационной безопасности, поскольку граница между реальностью и виртуальностью становится всё более размытой.
Публикация на Facebook, которую увидела г-жа Линь, привлекла почти 300 000 взаимодействий и более 16 000 комментариев. Многие пользователи поспешили поздравить или выразить свои чувства, не подозревая, что это всего лишь иллюстрация искусственного интеллекта. Некоторые более «трезвые» пользователи критиковали «пользователей сети за их наивность», позволившую искусственному интеллекту обмануть их.
В группах и форумах Facebook нетрудно увидеть видеоролики, созданные и распространяемые пользователями с помощью искусственного интеллекта. В частности, появление Google Veo 3 значительно повысило качество видео, особенно благодаря тому, что голос соответствует форме рта персонажа. Если не быть внимательным и невнимательным, зрители могут легко запутаться.
Сохраняя бодрствование в эпоху искусственного интеллекта
Фотографии и видео, созданные с помощью ИИ, сложно распознать, что представляет серьёзный риск для пользователей, особенно для уязвимых групп, не владеющих технологиями. По словам г-на Ву Тхань Тханга, директора по искусственному интеллекту (CAIO) акционерного общества SCS Cyber Security, киберпреступники используют ИИ для мошенничества (обхода биометрических систем, eKYC и т.д.), выдавая себя за известных людей для распространения ложной информации и сеяния общественного беспокойства. Известно множество случаев, когда высокотехнологичные преступники используют ИИ для создания фейковых фотографий, выдавая себя за родственников для видеозвонков с целью выманивания денег.
По словам г-на Тана, компании также являются потенциальными целями для киберпреступников. Они могут использовать искусственный интеллект (ИИ) для выдачи себя за сотрудников, обхода систем безопасности для разблокировки доступа и выдачи себя за руководителей компаний, чтобы опорочить и подорвать их репутацию.
Разделяя это мнение, г-н До Нху Лам из ABAII указал на три последствия использования искусственного интеллекта для отдельных пользователей: финансовое мошенничество, клевета на репутацию и эксплуатация личной информации. Что касается бизнеса, компания Arup потеряла 25 миллионов долларов США после того, как сотрудники её гонконгского филиала были обмануты и вынуждены участвовать в фейковой видеовстрече и перевести деньги по запросу.
Другой не менее серьезный риск заключается в том, что, когда люди не смогут отличить правду от фейка, общественное доверие к средствам массовой информации и официальным источникам новостей будет подорвано.
Г-н Лэм сослался на отчет Института Рейтер за 2024 год, в котором говорится, что процент пользователей во всем мире, доверяющих новостям на медиаплатформах, упал до самого низкого уровня за последнее десятилетие, в основном из-за появления фейкового контента.
По словам эксперта Ву Тхань Тханг, «мы живем в эпоху, когда любая информация может быть подделана и больше не является «риском». Поэтому необходимо повышать осведомленность и применять меры индивидуальной защиты, узнавать больше об ИИ, чтобы жить в мире .
Оба эксперта рекомендуют пользователям всегда проверять и подтверждать информацию перед принятием решений; вооружиться знаниями, позволяющими выявлять фейковый контент; ограничить распространение личной информации в интернете; и сообщать о фактах распространения фейкового контента. «Только проявляя активность и знание своего дела, пользователи могут по-настоящему защитить себя и внести свой вклад в создание более безопасного киберпространства в цифровую эпоху», — сказал г-н Лэм.
Источник: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html
Комментарий (0)