Фото 8_Одри Лорво.jpg
Одри Лорво — студентка старших курсов, специализирующаяся в области компьютерных наук, экономики и науки о данных, а также ученый, занимающийся вопросами социальной ответственности и этики в области вычислений (SERC). Фото: MIT

Исследования безопасности ИИ — важная область

В настоящее время Одри Лорво исследует безопасность ИИ, область, которая направлена ​​на обеспечение того, чтобы все более интеллектуальные модели искусственного интеллекта оставались надежными и полезными для человечества. Область фокусируется на технических проблемах, таких как устойчивость к ошибкам и соответствие ИИ человеческим ценностям, а также на решении социальных проблем, таких как прозрачность и подотчетность. Эксперты также обеспокоены экзистенциальными рисками все более мощного ИИ.

«Все более важным становится обеспечение того, чтобы ИИ не использовался не по назначению и не действовал вопреки человеческим намерениям, особенно по мере того, как мы приближаемся к общему искусственному интеллекту (AGI)», — поделился Лорво.

Лорво, научный сотрудник программы «Социальная и этическая ответственность вычислений» (SERC) в Институте вычислений им. Шварцмана Массачусетского технологического института, интересуется тем, как ИИ может автоматизировать процессы исследований и разработок в области ИИ. «Нам нужно сделать все возможное, чтобы безопасно разрабатывать ИИ», — подчеркнула она, призвав к соответствующим структурам управления и стратегиям для устранения рисков.

Лорво стремится понять технические аспекты безопасности ИИ с помощью таких инициатив, как стипендия AI Safety Engineering Fellowship, которая позволяет ей исследовать способы руководства разработкой ИИ таким образом, чтобы это приносило пользу человечеству.

«Программа помогла мне глубже понять технические вопросы и проблемы безопасности ИИ, тем самым предложив более эффективные стратегии управления ИИ», — поделилась она.

По словам Лорво, пионеры в области ИИ расширяют технологические горизонты, требуя эффективной реализации политики, которая будет отдавать приоритет безопасности людей, не препятствуя при этом исследованиям.

Ценность междисциплинарного подхода

С момента поступления в MIT Лорво хотела совмещать науку и гуманитарные науки. Однако разнообразие направлений подготовки затруднило для нее выбор конкретной специальности.

«Существует множество способов улучшить качество жизни, и MIT предлагает бесчисленные возможности для их изучения . Занятия по эконометрике профессора Джошуа Энгриста помогли мне увидеть ценность экономических исследований, в то время как наука о данных и вычисления заинтересовали меня из-за растущего потенциала ИИ. Мы можем использовать эти инструменты для решения наших самых насущных проблем и преодоления серьезных трудностей», — сказал Лорво.

Лорво также расширила свои исследования в области городского планирования и международного развития. По мере того, как она углублялась в свою область, она поняла, что многие студенты MIT, особенно группа MIT AI Alignment, разделяют ее взгляды на ответственные технологии.

Концепция «предельного воздействия» описывает дополнительное воздействие инвестиций времени, денег или усилий в определенной области. По словам Лорво, этот подход помогает людям решать, как эффективнее инвестировать свои ресурсы.

В мире ограниченных ресурсов, утверждает Лорво, подход, основанный на данных, может помочь распределить ресурсы в тех областях, где они, скорее всего, принесут наибольшую пользу. Если мы хотим максимизировать социальное воздействие, важно думать о маргинальном влиянии выбора карьеры.

Опыт студентов в Массачусетском технологическом институте

Помимо учебы, Лорво активно участвует во внеклассных мероприятиях, чтобы получить значимый опыт и наладить связи с однокурсниками.

«Мне повезло, что я могу совмещать учебу, исследования, клубную деятельность и личные интересы, такие как силовые тренировки или участие во внеклассных инициативах. В MIT всегда есть много интересных клубов и мероприятий, которые можно посетить», — сказал Лорво.

Эти возможности не только расширили ее горизонты, но и помогли ей скорректировать свой карьерный путь. Лорво, которая свободно говорит на французском, английском, испанском и португальском языках, также оценила программы международного опыта MIT.

Лорво, которая проходила стажировку в Сантьяго-де-Чили и Париже по программе MISTI, также протестировала систему конденсации пара, разработанную ее командой в рамках класса D-Lab 2023 года в партнерстве с Политехнической школой Мадагаскара и НПО Tatirano. Этот опыт помог ей лучше понять, как бороться с экономическим неравенством.

Лорво заявил, что после окончания университета он хочет продолжить исследования в области безопасности и стратегий управления ИИ, чтобы гарантировать безопасное и эффективное внедрение ИИ.

«Хорошее управление является ключом к успешному развитию ИИ и помогает человечеству воспользоваться его преобразующим потенциалом. Мы должны постоянно следить за развитием ИИ, поскольку технология продолжает развиваться», — заявил Лорво.

(По данным новостей Массачусетского технологического института)