ИИ галлюцинирует, но люди страдают больше

Новый Claude 4 от Anthropic стал умнее, но все еще вызывает галлюцинации. Фото: Антропик .

На первом мероприятии разработчиков Anthropic в Сан-Франциско генеральный директор компании Дарио Амодеи утверждал, что современные модели искусственного интеллекта могут создавать «галлюцинации» с более низкой частотой, чем люди. Под «иллюзией» здесь понимается явление, когда ИИ создает вымышленный контент, но выдает его за реальный.

Амодей подчеркнул, что галлюцинации ИИ не мешают Anthropic двигаться к цели AGI (искусственному интеллекту общего назначения). «Это зависит от вашего стандарта измерения, но я думаю, что частота галлюцинаций у моделей ИИ, вероятно, ниже, чем у людей, просто то, как они совершают ошибки, более удивительно», — сказал он.

Amodei неизменно является одним из самых активных сторонников ИИ-технологий в отрасли. «Люди всегда ищут «верхний предел» для ИИ», — сказал он. «Сейчас мы не видим такого верхнего предела».

Генеральный директор Anthropic является одним из сторонников «оптимизма в отношении ИИ». Фото: Антропик.

Однако не все согласны с этой точкой зрения. Генеральный директор Google DeepMind Демис Хассабис на этой неделе отметил, что текущие модели искусственного интеллекта «полны дыр» и даже отвечают на некоторые базовые вопросы неправильно.

Также имеются признаки того, что при решении сложных задач вывода некоторые новые модели сталкиваются с более серьезными проблемами. Версии o3 и o4-mini от OpenAI демонстрируют более высокие показатели иллюзий по сравнению с предыдущими моделями вывода. Даже сама OpenAI не понимает, почему.

Амодей также упомянул, что люди тоже совершают ошибки. Поэтому он считает, что тот факт, что ИИ совершает ошибки, не означает, что он «недостаточно умен». Однако руководство Anthropic также признает, что их чрезвычайно высокий уровень уверенности в предоставлении ложной информации может легко вызвать проблемы.

Замечания Амодеи вызвали дискуссию в сообществе специалистов по искусственному интеллекту относительно истинных возможностей текущих моделей. Некоторые эксперты сходятся во мнении, что ИИ добился значительного прогресса в снижении галлюцинаций. Другие предупреждают о потенциальных рисках, возникающих, когда ИИ проявляет чрезмерную уверенность в неточной информации.

Это обсуждение отражает большую проблему, стоящую перед отраслью ИИ. Компании стремятся разрабатывать системы, которые одновременно являются интеллектуальными и надежными, способными справляться с уровнем неопределенности в ответах.

Источник: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html