 |
Показатель точности Google AI Overview составляет 90%, но это всё равно означает, что миллионы раз он ошибается. Фото: Mashable . |
Компания Google выпустила новое обновление для своей поисковой системы, работающей на основе искусственного интеллекта, что упрощает пользователям поиск информации из источников, которым они доверяют. Одним из заметных изменений является функция «предварительный просмотр», которая опирается на реальные обсуждения в социальных сетях, на Reddit и других веб-форумах.
Функция AI Overviews ранее выявила ряд недостатков, особенно в отношении качества и точности информации. Опрос, опубликованный в апреле газетой NYT, показал, что инструмент поиска выдавал точные результаты лишь примерно в 90% случаев.
Между тем, за короткий промежуток времени платформа получила сотни миллионов вопросов. По данным Ars Technica , это означает, что Google генерирует миллионы неверных ответов каждый час.
Кроме того, ряд случаев демонстрирует серьезные масштабы фальсификации информации с помощью поиска на основе искусственного интеллекта. Канадская певица Эшли Макайсак на прошлой неделе подала в суд на Google за обвинения в сексуальном домогательстве. Газета The Guardian также сообщила, что этот инструмент предоставляет много опасной информации о здоровье, особенно о психическом здоровье и расстройствах пищевого поведения.
Google заявляет, что это обновление направлено на решение проблемы, связанной с тем, что пользователи «все чаще обращаются за советом к другим» при поиске информации в интернете. Как правило, реальный опыт пользуется большим доверием, чем оптимизированные для поисковых систем результаты поиска.
 |
В обзоре AI Overview использованы ответы, полученные от сообщества. Фото: Google. Вам также может понравиться  Предпринимаются усилия по спасению обсерватории НАСА от угрозы свободного падения.3 июля НАСА запустило миссию по повышению орбиты обсерватории Нила Гехрельса Swift, тем самым продлив срок службы спутника.  Айфоны уже не те, что раньше.Новые изменения в iOS 27 показывают, что Apple уделяет приоритетное внимание искусственному интеллекту Siri, но это может потребовать от пользователей iPhone привыкания к знакомому интерфейсу, который они знают уже много лет.  Почему многие компании называют Резолюцию 57 беспрецедентным стимулом?Спустя более полутора лет после принятия Резолюции 57 постоянно появлялись новые модели, и были устранены многие механизмы, которые когда-то считались «узкими местами», что создало основу для того, чтобы наука и технологии стали движущей силой национального развития. |
Интегрируя эти функции, Google пытается побудить больше пользователей попробовать их вместо традиционного поиска в интернете. Компания заявляет, что также добавит контекст к этим новым ссылкам, реагирующим на искусственный интеллект, например, имя создателя контента, аккаунта или сообщества.
Эти непосредственные отзывы будут отфильтрованы искусственным интеллектом и отображаться в результатах поиска с заголовками, такими как «Советы экспертов», и другими метками. Это позволит пользователям получить доступ к специализированным форумам или конкретным разделам Reddit, которые они хотят изучить подробнее.
Однако это обновление несколько усугубит феномен «пузыря ответов». Исследование, проведенное в Университете Иллинойса, показало, что когда ИИ синтезирует информацию и выдает единственный результат, он может некорректно указывать источники, но при этом сохранять уверенный тон.
Таким образом, ИИ сделает интернет более надежным, чем он есть на самом деле. Пользователи, которые не проводят тщательных исследований или критической оценки информации, с большей вероятностью примут ложную информацию на веру.
С другой стороны, характер информации незаметно меняется. Пользователи получают мнения, которые считаются общепринятыми, но не обязательно полностью точными. Google также не раскрыл, как проверяет экспертные советы или какие критерии использует для фильтрации комментариев.
В 2024 году чрезмерная зависимость Google от Reddit привела к многочисленным нелепым ответам, например, к идее о том, что камни можно есть или из клея можно сделать пиццу. Данные SERanking за тот год показали, что компании пришлось уменьшить свою зависимость от Reddit, поскольку её искусственный интеллект всё ещё не мог отличать фактическую информацию от шуток или сарказма.
По данным The Verge, этот шаг Google еще больше усложняет роль AI Overview. Теперь назначение инструмента находится где-то между прямым ответом на вопросы и предоставлением пользователям разнообразных источников информации. Это ничем не отличается от любой другой традиционной поисковой платформы.
Однако платформа также будет добавлять контекст к своим ответам, включая ссылки и информацию об авторе. Пользователям необходимо внимательно проверять и подтверждать информацию, прежде чем использовать её.
Источник: https://znews.vn/google-dang-co-sua-sai-post1649444.html
