Возникают опасения, что чат-бот Grok может способствовать распространению дезинформации в интернете.

Чат-бот Илона Маска Grok начал позволять пользователям создавать изображения из текста с помощью ИИ и публиковать их на X, включая фейковые изображения политиков, таких как бывший президент США Дональд Трамп, вице-президент США Камала Харрис и другие.

В отличие от других распространенных инструментов для захвата изображений с помощью ИИ, Grok Маска, похоже, имеет меньше ограничений. Например, в ходе тестирования CNN Grok легко создавал поддельные изображения политиков, вводя избирателей в заблуждение.

Изображение Илона Маска, созданное чат-ботом Grok. (Источник: CNN)

Некоторые пользователи X даже опубликовали изображения, созданные Гроком, на которых знаменитости употребляют наркотики, мультяшные персонажи совершают убийства, а женщины в бикини сексуализированы.

По данным CNN , Grok еще больше усиливает опасения, что искусственный интеллект может спровоцировать всплеск дезинформации в интернете, особенно в преддверии президентских выборов в США.

Законодатели, общественные активисты и лидеры технологических компаний бьют тревогу, предупреждая, что злоупотребление такими инструментами может вызвать путаницу и хаос среди избирателей.

Многие ведущие мировые компании, занимающиеся искусственным интеллектом, внедрили политику, предотвращающую использование инструментов генерации изображений на основе ИИ для распространения политической дезинформации, хотя исследователи обнаружили, что пользователи иногда все же находят способы обойти эти правила.

Ряд компаний, таких как OpenAI, Meta и Microsoft, используют технологии или метки, чтобы помочь зрителям идентифицировать изображения, созданные с помощью их ИИ.

Социальные сети, включая YouTube, TikTok, Instagram и Facebook, также помечают контент, созданный искусственным интеллектом, в лентах пользователей, используя технологии либо для его самостоятельного обнаружения, либо предлагая пользователям указать, когда они публикуют такой контент.

16 августа, по всей видимости, ИИ ввел некоторые ограничения для Grok. Теперь инструмент отказывается создавать изображения политических кандидатов или популярных мультипликационных персонажей, совершающих акты насилия.

Источник: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html.