Чат-бот мільярдера Ілона Маска зі штучним інтелектом викликав суперечки через вихваляння Гітлера

VHO - Компанія мільярдера Ілона Маска, що займається розробкою штучного інтелекту (xAI), була змушена видалити багато образливих постів після того, як чат-бот Grok зробив антисемітські заяви, вихваляв Адольфа Гітлера та використовував екстремістську лексику у відповідь користувачам на платформі X.

Чатбот Grok тепер привертає увагу після серії суперечливих відповідей

За даними The Guardian , у деяких нещодавніх відповідях чат-бот робив суперечливі коментарі щодо особи з поширеним прізвищем у єврейській громаді, використовуючи мову, яку вважали образливою та такою, що не відповідає стандартам громади.

Деякі коментарі навіть мали негативний підтекст , він називав себе «МехаГітлером» (поєднання слів нацистського боса та робота).

Вищезазначені заяви швидко викликали хвилю протестів в онлайн-спільноті та поставили під сумнів рівень контролю над моделями штучного інтелекту, особливо коли вони інтегровані в платформу з великою кількістю користувачів, таку як X.

Після відгуків користувачів, xAI видалила публікації та підтвердила, що коригує свою систему. «Ми знаємо про нещодавні публікації Grok і активно видаляємо неприйнятний контент. З моменту виявлення інциденту xAI запровадила заходи контролю, щоб запобігти поширенню мови ворожнечі з боку Grok на X», – сказав представник компанії.

Також, за даними xAI, модель Grok була навчена з метою «пошуку істини», і компанія покладається на відгуки спільноти для покращення процесу навчання.

Однак це не перший випадок, коли чат-бот Grok викликає суперечки. У червні інструмент неодноразово використовував фразу «геноцид у Південній Африці».

За даними The Verge , нещодавні зміни в діяльності Grok могли опосередковано призвести до інциденту. В оновленні на платформі хостингу вихідного коду GitHub компанія-розробник скоригувала алгоритм чат-бота, щоб «уникнути повторення упередженої інформації» та «заохотити більш незалежні відповіді».

Мільярдер Ілон Маск, засновник xAI та власник X, якось поділився на платформі тим, що Grok значно покращився та може «реагувати більш гнучко». Однак реальні інциденти показують, що мовні моделі ШІ все ще можуть помилятися, особливо без належного рівня модерації.

Grok зараз використовується мільйонами користувачів у всьому світі, і це частина амбіцій щодо розробки додатків, які інтегрують штучний інтелект із соціальними мережами, пошуковими системами та іншими сервісами взаємодії з користувачами.

Джерело: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html