ChatGPT розкриває особисту інформацію через «дурну» помилку

Команда дослідників каже, що їм вдалося змусити ChatGPT розкривати деякі дані, наказуючи штучному інтелекту повторювати випадкові слова.

Дослідники з Google DeepMind, Вашингтонського університету, Корнельського університету, Університету Карнегі-Меллона, Каліфорнійського університету в Берклі та ETH Zurich закликали компанії, що займаються штучним інтелектом, ретельно протестувати свої продукти, від великих мовних моделей до базової технології, яка забезпечує роботу таких сервісів штучного інтелекту, як чат-боти та генератори зображень, перш ніж офіційно їх випускати.

Попередження з'явилося після того, як дослідники попросили ChatGPT повторювати слово «вірш» у нескінченному циклі. ChatGPT виконав вимогу, але потім почав розкривати справжню електронну адресу та номер телефону генерального директора та співзасновника OpenAI. Під час тестування зі словом «компанія» чат-бот відображав електронну адресу та номер телефону випадкової юридичної фірми.

Логотип ChatGPT відображається на смартфоні. Фото: Reuters

Використовуючи інші ключові слова, вони також змогли отримати доступ до ChatGPT, щоб розкрити адреси Bitcoin, номери факсів, імена, дати народження, облікові записи соціальних мереж, уривки з дослідницьких робіт, захищених авторським правом, або платні статті з CNN . Команді коштувало лише 200 доларів, щоб згенерувати 10 000 прикладів особистої інформації та даних.

Дослідники заявили, що вони були здивовані, назвавши вразливість ChatGPT «дійсно дурною» та заявивши, що її слід було виявити раніше.

Про вразливість повідомили OpenAI, і 30 серпня її виправили. Однак у новому тесті Engadget , коли ChatGPT просили нескінченно повторювати слово «відповідь», технічний сайт отримував чиєсь ім'я та Skype ID.

OpenAI поки що не прокоментував ситуацію.

Генеративні штучні інтелекти, такі як ChatGPT або генератор тексту в зображення Dall-E, побудовані на великих мовних моделях та алгоритмах машинного навчання, які навчаються на величезних обсягах даних без згоди користувача. OpenAI не розкриває, на яких даних навчається ChatGPT, оскільки велика мовна модель, на якій він працює, має закритий вихідний код.

За словами Хюй Дика - VnExpress

Джерело