Темная сторона злоупотребления ИИ

Ожидается, что в 2024 году, в честь Лунного Нового года (Зяп Тхин), в интернете появится множество приложений для приветствия Тэта, поддерживающих технологии искусственного интеллекта. Помимо приложений от «технологических гигантов», таких как Microsoft Copilot, Google Bard или ChatGPT от OpenAI, существует также множество вьетнамских приложений.

И не только с текстовыми поздравлениями, пользователи также могут попросить ИИ создать поздравительные открытки с изображениями и видео .

Поздравительные открытки к году Дракона, созданные с помощью искусственного интеллекта.

Однако многие почувствуют себя «неловко», узнав, что новогодние поздравления, отправленные им, созданы «роботами». Они уже не несут в себе искренних эмоций отправителя.

Люди уже давно предупреждают о злоупотреблении ИИ во всех сферах жизни. Это злоупотребление делает людей ленивыми и неспособными использовать свой мозг. В прошлом революция автоматизации, вызванная машинами, помогла людям сократить объём ручного и физического труда; но злоупотребление ею сделает людей ленивыми и слабыми. Сегодня технологии ИИ влияют на умственную деятельность человека. Нельзя отрицать преимущества ИИ, но важно знать, как эффективно применять ИИ в нужное время и в нужном месте. Злоупотребление ИИ, даже если оно не направлено на злоупотребление, всё равно не приносит пользы пользователям.

Эксперты также отмечают, что в условиях бурного роста популярности приложений искусственного интеллекта в этом году на Тет появится больше приложений для редактирования персональных фотографий, создаваемых на основе пользовательских изображений. Это увлекательно, но пользователям следует быть осторожными и использовать приложения только от проверенных поставщиков. Злоупотребление приложениями для изменения лица может привести к краже личных данных пользователей в неблаговидных, даже вредоносных целях.

Департамент информационной безопасности ( Министерство информации и коммуникаций ) предупреждает, что большинство операций по редактированию лиц в интернете требуют предоставления личных изображений, что создаёт множество потенциальных рисков для информационной безопасности. Г-н Нгуен Зуй Кхием, представитель Департамента информационной безопасности, заявил: «Помимо требования предоставления изображений, большинство приложений также запрашивают доступ к фотоархивам, камерам телефонов, а также к адресам электронной почты, номерам телефонов и т. д. На этом основании поставщики услуг могут собирать информацию и обрабатывать персональные данные пользователей в различных целях».

Фактически, используя личные портретные изображения, предоставленные пользователями, владельцы приложений могут создавать другие изображения, даже используя поддельные данные, что может привести к непредсказуемым последствиям.

Источник: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm