Штучний інтелект галюцинує, але люди страждають більше

Генеральний директор Anthropic Даріо Амодей робить суперечливі коментарі щодо можливостей сучасного штучного інтелекту створювати «галюцинації» порівняно з людьми.

Нещодавно випущена гра Claude 4 від Anthropic розумніша, але все ще викликає галюцинації. Фото: Anthropic .

На першому заході розробників Anthropic у Сан-Франциско генеральний директор Даріо Амодей заявив, що сучасні моделі штучного інтелекту можуть створювати «галюцинації» рідше, ніж люди. «Галюцинації» тут розуміються як явище, коли штучний інтелект створює вигаданий контент, але представляє його як реальний.

Амодей наголосив, що той факт, що ШІ галюцинує, не заважає Anthropic досягти мети AGI (штучного загального інтелекту). «Це залежить від ваших вимірювань, але я думаю, що частота галюцинацій у моделях ШІ, ймовірно, нижча, ніж у людей, просто те, як вони помиляються, є більш дивним», – сказав він.

Амодей був одним із найголосніших прихильників ЗШІ в галузі. «Люди завжди намагаються знайти «верхню межу» для ШІ», — каже він. «Зараз ми не бачимо жодної такої верхньої межі».

Генеральний директор Anthropic є одним із прихильників «оптимізму щодо штучного інтелекту». Фото: Anthropic.

Однак не всі з цим погоджуються. Генеральний директор Google DeepMind Деміс Хассабіс цього тижня зазначив, що сучасні моделі штучного інтелекту «повні дірок», і навіть деякі основні питання даються неправильно.

Також є ознаки того, що деякі новіші моделі мають вищу частоту проблем, коли йдеться про складні завдання логічного висновку. Версії OpenAI o3 та o4-mini мають підвищену частоту галюцинацій порівняно з попередніми моделями логічного висновку. Навіть сам OpenAI не розуміє, чому.

Амодей також згадав, що люди часто помиляються, тому він сказав, що те, що ШІ робить помилки, не означає, що він «недостатньо розумний». Однак лідер Anthropic також визнав, що вони можуть легко створювати проблеми, коли надають неправдиву інформацію з надзвичайно високою достовірністю.

Зауваження Амодея викликали дискусію у спільноті штучного інтелекту щодо справжніх можливостей сучасних моделей. Деякі експерти погоджуються, що ШІ робить значний прогрес у зменшенні ілюзій. Інші попереджають про потенційні ризики надмірної впевненості ШІ в неточній інформації.

Ця дискусія відображає серйозний виклик, що стоїть перед індустрією штучного інтелекту. Компанії прагнуть розробляти системи, які є одночасно інтелектуальними та надійними, здатними впоратися з невизначеністю у своїх реакціях.

Джерело: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html