Арестован за использование ChatGPT для распространения фейковых новостей

По данным SCMP , полиция Ганьсу арестовала мужчину по имени Хун за то, что он якобы использовал ChatGPT для фабрикации ложной информации о железнодорожной катастрофе, в результате которой погибли девять человек.

После обнаружения фейковой новости 25 апреля власти обнаружили несколько версий аварии, опубликованных 25 разными аккаунтами на платформе микроблогов Baijiahao, которые были просмотрены более 15 000 раз. Хун использовал ChatGPT для редактирования содержания и места аварии, чтобы обойти систему проверки дубликатов Baijiahao.

Полиция арестовала Хонга в соответствии с законом о «глубоком синтезе», принятым в Китае в январе. «Глубокий синтез» подразумевает использование ИИ (искусственного интеллекта) для генерации текста, изображений, видео и других медиаконтента. Закон запрещает использование ИИ для распространения фейковых новостей.

Несмотря на то, что ChatGPT запрещен в Китае, многие люди все еще используют VPN для доступа к этому чат-боту.

Благодаря этим отчётам полиция смогла выследить компанию, принадлежащую Хонгу. Он признался в использовании ChatGPT для создания фейковых новостей с целью заработка на трафике. Хонгу было предъявлено обвинение в «нарушении общественного порядка», за которое ему грозит максимальное наказание в виде пяти лет лишения свободы. Однако в особо тяжких случаях срок наказания может составлять до 10 лет. В 2013 году китайское правительство расширило сферу действия обвинения, включив в него лиц, публикующих и распространяющих ложные слухи в интернете.

По мере развития ChatGPT Китай выражает обеспокоенность тем, что неконтролируемая разработка и использование «технологии глубокого синтеза» может привести к преступной деятельности, такой как онлайн-мошенничество или клевета. В феврале китайская полиция предупредила граждан о необходимости быть осторожнее со «слухами», распространяемыми ChatGPT.

Китайские власти стремятся опережать развитие технологий, разрабатывая законы, регулирующие ИИ и ограничивающие использование дипфейков. Аресты представляют собой попытку китайских властей регулировать и контролировать использование ИИ по мере развития этой технологии.

Ссылка на источник

Тема: дезинформация

Комментарий (0)