Темная сторона приложений искусственного интеллекта

После того, как в конце 2022 года стартап OpenAI выпустил своё первое ИИ-приложение ChatGPT, началась волна конкуренции в сфере разработки ИИ-приложений, особенно генеративного ИИ, который приносит множество удобств во все сферы жизни. Однако это также несёт в себе множество рисков.

Вторжение в частную жизнь

В последние годы многие организации и частные лица понесли убытки, когда киберпреступники использовали ИИ для создания видеороликов , имитирующих изображения и голоса реальных людей. Одним из примеров является трюк Deepfake.

Согласно отчёту о мошенничестве с персональными данными, опубликованному Sumsub в конце ноября 2023 года, количество случаев мошенничества с использованием Deepfake в мире выросло в 10 раз в 2022–2023 годах. В это же время в мире наблюдается взрывной рост популярности приложений искусственного интеллекта.

Status Labs отмечает, что дипфейки оказали серьёзное влияние на культуру, конфиденциальность и личную репутацию. Значительная часть новостей и внимания, связанных с дипфейками, была сосредоточена на порно со знаменитостями, порномести, дезинформации, фейковых новостях, шантаже и мошенничестве. Например, в 2019 году хакер, подделавший изображение и голос руководителей компании, похитил 243 000 долларов у американской энергетической компании и попросил её перевести деньги партнёрам.

По данным Reuters, в 2023 году в социальных сетях по всему миру было распространено около 500 000 видео- и аудиозаписей с дипфейками. Помимо дипфейков, созданных ради развлечения, существуют и другие способы обмана сообщества. По оценкам источников, в 2022 году убытки от дипфейков по всему миру составили до 11 миллионов долларов США.

Многие эксперты в области технологий предупреждали о негативных последствиях использования искусственного интеллекта, включая права интеллектуальной собственности и вопросы подлинности, а также о спорах по поводу интеллектуальной собственности между «произведениями», созданными искусственным интеллектом. Например, один человек просит приложение ИИ нарисовать картину на определённую тему, а другой — сделать то же самое, в результате чего картины получаются очень похожими.

Это, скорее всего, приведёт к спорам о правах собственности. Однако на сегодняшний день мир ещё не принял решения о признании авторских прав на контент, создаваемый ИИ (признании авторских прав за частными лицами, заказывающими креативный ИИ, или компаниями, разрабатывающими приложения ИИ).

Изображение, созданное приложением ИИ

Трудно отличить настоящее от поддельного

Так может ли контент, создаваемый ИИ, нарушать авторские права? С технологической точки зрения, контент, создаваемый ИИ, синтезируется алгоритмами на основе данных, на которых он был обучен. Эти базы данных собираются разработчиками приложений ИИ из множества источников, в основном из баз знаний в интернете. Многие из этих работ защищены авторским правом и принадлежат их владельцам.

27 декабря 2023 года газета The New York Times (США) подала в суд на OpenAI (совместно с ChatGPT) и Microsoft, утверждая, что миллионы их статей были использованы для обучения чат-ботов и платформ ИИ этих двух компаний. Доказательствами служат материалы, созданные чат-ботами по запросу пользователей и идентичные или похожие на содержание статей. Газета не может игнорировать случаи, когда их «интеллектуальная собственность» используется компаниями для получения прибыли.

The New York Times стала первой крупной американской газетой, подавшей иск о нарушении авторских прав, связанный с искусственным интеллектом. Возможно, в будущем и другие газеты последуют этому примеру, особенно после успеха The New York Times.

Ранее, в июле 2023 года, OpenAI заключила соглашение о лицензировании авторских прав с информационным агентством Associated Press, а в декабре 2023 года — с Axel Springer — немецким издателем, владеющим двумя газетами Politico и Business Insider.

Актриса Сара Сильверман также присоединилась к двум искам в июле 2023 года, обвинив Meta и OpenAI в использовании её мемуаров в качестве учебного пособия для программ искусственного интеллекта. Многие писатели также выразили тревогу, когда выяснилось, что системы искусственного интеллекта поглотили десятки тысяч книг в своих базах данных, что привело к судебным искам со стороны таких авторов, как Джонатан Франзен и Джон Гришэм.

Тем временем фотосервис Getty Images также подал в суд на компанию, занимающуюся искусственным интеллектом, за создание изображений на основе текстовых подсказок из-за несанкционированного использования защищенных авторским правом визуальных материалов компании...

Пользователи могут столкнуться с проблемами авторского права, если «небрежно» используют «работы», которые они «создали» с помощью инструментов ИИ. Эксперты всегда рекомендуют использовать инструменты ИИ только для поиска, сбора данных и предоставления рекомендаций для справочных целей.

С другой стороны, приложения на основе ИИ сбивают пользователей с толку, когда они не могут отличить истинность от ложности определённого контента. Издательства и редакции газет могут испытывать затруднения при получении рукописей. Преподавателям также сложно определить, используют ли работы студентов ИИ или нет.

Теперь сообществу придётся быть более бдительным, поскольку неизвестно, что правда, а что подделка. Например, обычному человеку будет сложно определить, была ли фотография «зачарована» или отредактирована искусственным интеллектом.

Необходимы правовые нормы по использованию ИИ

В ожидании появления прикладных инструментов, способных обнаруживать вмешательство ИИ, управляющим органам необходимо как можно скорее разработать чёткие и конкретные правовые нормы, регулирующие использование этой технологии для создания личного контента. Правовые нормы должны демонстрировать всем, что контент и работы были подвергнуты вмешательству ИИ, например, по умолчанию снабжать изображения водяными знаками, обработанные ИИ.

Источник: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm