ИИ галлюцинирует, но люди страдают больше

Недавно выпущенный Claude 4 от Anthropic стал умнее, но всё ещё галлюцинирует. Фото: Anthropic .

На первом мероприятии Anthropic для разработчиков в Сан-Франциско генеральный директор компании Дарио Амодеи заявил, что современные модели ИИ способны создавать «галлюцинации» с меньшей частотой, чем люди. Под «галлюцинациями» здесь понимается феномен, когда ИИ создаёт вымышленный контент, но выдаёт его за реальный.

Амодеи подчеркнул, что галлюцинации ИИ не мешают Anthropic достичь цели — достижения общего искусственного интеллекта (AGI). «Это зависит от ваших критериев, но я думаю, что частота галлюцинаций у моделей ИИ, вероятно, ниже, чем у людей, просто их ошибки более неожиданны», — сказал он.

Амодеи был одним из самых ярых сторонников ИИ в отрасли. «Люди всегда пытаются найти „верхний предел“ для ИИ, — говорит он. — Сейчас мы не видим такого верхнего предела».

Генеральный директор Anthropic — один из сторонников «оптимизма в области искусственного интеллекта». Фото: Anthropic.

Однако не все с этим согласны. Генеральный директор Google DeepMind Демис Хассабис на этой неделе отметил, что текущие модели искусственного интеллекта «полны пробелов» и даже отвечают на некоторые базовые вопросы неверно.

Также есть признаки того, что некоторые новые модели чаще сталкиваются с проблемами при выполнении сложных задач вывода. Версии OpenAI o3 и o4-mini демонстрируют более высокий уровень галлюцинаций, чем предыдущие модели вывода. Даже сама OpenAI не понимает, почему.

Амодеи также отметил, что люди постоянно ошибаются. Поэтому он заявил, что ошибки ИИ не обязательно означают, что он «недостаточно умён». Однако лидер антропогенного сообщества также признал, что ИИ может легко создавать проблемы, предоставляя ложную информацию с чрезвычайно высокой степенью достоверности.

Замечания Амодеи вызвали споры в сообществе специалистов по искусственному интеллекту об истинных возможностях существующих моделей. Некоторые эксперты сходятся во мнении, что ИИ добился значительного прогресса в уменьшении иллюзий. Другие предупреждают о потенциальных рисках, связанных с чрезмерной уверенностью ИИ в неточной информации.

Обсуждение отражает серьёзную проблему, стоящую перед отраслью искусственного интеллекта. Компании стремятся разрабатывать системы, которые одновременно являются интеллектуальными и надёжными, способными справляться с неопределённостью в своих реакциях.

Источник: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html

Комментарий (0)