Bloomberg сообщает, что все больше экспертов в области искусственного интеллекта используют устойчивое влияние сериала на поп-культуру, а также его богатые лингвистические данные и разнообразную игру слов, чтобы экспериментировать с передовыми технологиями генеративного искусственного интеллекта.
Например, создаются алгоритмы, способные выборочно «забывать» информацию, что является сложной задачей для больших языковых моделей, которые обучаются на больших объемах онлайн-данных, включая материалы, защищенные и не защищенные авторским правом.
Исследователи Марк Руссинович и Ронен Элдан из Microsoft утверждают, что продемонстрировали, что модели ИИ можно изменять или модифицировать, удаляя любые специфические знания, например, о существовании книг о Гарри Поттере, включая их персонажей и сюжет, без ущерба для возможностей системы принимать решения или анализировать данные. Они говорят, что выбрали Гарри Поттера из-за его популярности.
«Даже люди, которые не читали книгу, могут знать элементы сюжета и персонажей, поэтому нашу методику можно протестировать, чтобы подтвердить, «знает» ли алгоритм книгу», — сказал Руссинович, технический директор Microsoft Azure.
В другом исследовании исследователи из Вашингтонского университета, Калифорнийского университета и Института искусственного интеллекта Аллена разработали новую языковую модель под названием Silo, которая позволяет исключить данные для снижения правового риска. Однако эффективность модели значительно снижалась при обучении только на текстах с низким уровнем риска, таких как книги, не защищенные авторским правом, или правительственные документы.
Что касается «Гарри Поттера», то «богатство сцен, диалогов, эмоциональных моментов делают его очень подходящим для особой области обработки естественного языка», — говорит Лейла Вехбе, исследователь из Университета Карнеги-Меллона, которая в 2014 году провела серию экспериментов по сбору данных МРТ мозга у читателей серии, чтобы узнать о механике языка.
Даже когда Гарри Поттер не является предметом исследования, он остаётся излюбленным литературным источником для исследователей. Его используют, например, для проверки «интеллектуальности» алгоритмов. Терренс Сейновски, руководитель лаборатории вычислительной нейробиологии в Институте биологических исследований Солка, утверждает, что модели ИИ отражают интеллект и предубеждения своих пользователей, подобно «зеркалу иллюзии» в «Гарри Поттере», которое отражает желания смотрящего в него человека.
(По данным Bloomberg)
Microsoft запустит линейку ноутбуков Surface с искусственным интеллектом в 2024 году
Microsoft запускает ИИ-чатбот Copilot для iPhone и iPad
Искусственный интеллект шокирует, получив главную литературную премию в Китае
Источник
Комментарий (0)