Фото 8_Одри Лорво.jpg
Одри Лорво — студентка старших курсов, специализирующаяся в области компьютерных наук, экономики и науки о данных, а также научный сотрудник программы «Социальная ответственность и этика в вычислительной технике» (SERC). Фото: Массачусетский технологический институт

Исследования безопасности ИИ — важная область

В настоящее время Одри Лорво занимается исследованиями в области безопасности ИИ, целью которых является обеспечение надежности и пользы для человечества всё более интеллектуальных моделей искусственного интеллекта. В рамках исследования особое внимание уделяется техническим проблемам, таким как устойчивость к ошибкам и соответствие ИИ общечеловеческим ценностям, а также социальным вопросам, таким как прозрачность и подотчётность. Эксперты также обеспокоены экзистенциальными рисками, связанными со всё более мощным ИИ.

«Все более важным становится обеспечение того, чтобы ИИ не использовался не по назначению и не действовал вопреки человеческим намерениям, особенно по мере того, как мы приближаемся к созданию общего искусственного интеллекта (ОИИ)», — поделился Лорво.

Лорво, научный сотрудник программы «Социально и этически ответственные вычисления» (SERC) Института вычислительной техники имени Шварцмана Массачусетского технологического института, интересуется тем, как ИИ может автоматизировать процессы исследований и разработок в этой области. «Мы должны сделать всё возможное для безопасной разработки ИИ», — подчеркнула она, обратив внимание на соответствующие структуры управления и стратегии для снижения рисков.

Лорво стремится понять технические аспекты безопасности ИИ посредством таких инициатив, как стипендия по инженерному обеспечению безопасности ИИ, которая помогает ей в исследовании путей направления разработки ИИ на пользу человечеству.

«Программа помогла мне глубже понять технические вопросы и проблемы безопасности ИИ, тем самым предложив более эффективные стратегии управления ИИ», — поделилась она.

По словам Лорво, пионеры в области ИИ раздвигают технологические горизонты, что требует эффективной реализации политики, которая будет уделять первостепенное внимание безопасности людей, не препятствуя при этом исследованиям.

Ценность междисциплинарного подхода

С момента поступления в Массачусетский технологический институт Лорво хотела сочетать естественные и гуманитарные науки. Однако разнообразие направлений подготовки затрудняло ей выбор конкретной специальности.

«Существует множество способов улучшить качество жизни, и Массачусетский технологический институт предлагает бесчисленное множество возможностей для их изучения . Занятия по эконометрике профессора Джошуа Ангриста помогли мне осознать ценность экономических исследований, а наука о данных и вычислительная техника увлекли меня растущим потенциалом искусственного интеллекта. Мы можем использовать эти инструменты для решения самых насущных проблем и преодоления серьёзных трудностей», — сказал Лорво.

Лорво также расширила свои исследования в области городского планирования и международного развития. По мере углубления в свою область знаний она обнаружила, что многие студенты Массачусетского технологического института, особенно группа MIT AI Alignment, разделяют её взгляды на ответственные технологии.

Концепция «предельного воздействия» описывает дополнительный эффект от вложения времени, денег или усилий в определённую область. По словам Лорво, такой подход помогает людям решить, как эффективнее инвестировать свои ресурсы.

Лорво утверждает, что в мире ограниченных ресурсов подход, основанный на данных, может помочь распределить ресурсы в тех областях, которые, вероятно, принесут наибольшую пользу. Если мы хотим максимизировать социальное воздействие, важно учитывать незначительное влияние выбора карьеры.

Студенческий опыт в Массачусетском технологическом институте

Помимо учебы, Лорво активно участвует во внеклассных мероприятиях, чтобы получить значимый опыт и наладить связи с однокурсниками.

«Мне повезло, что я могу совмещать учёбу, исследования, клубную деятельность и личные интересы, такие как силовые тренировки или участие во внеклассных мероприятиях. В Массачусетском технологическом институте всегда много интересных клубов и мероприятий, которые можно посетить», — сказал Лорво.

Эти возможности не только расширили её кругозор, но и помогли ей скорректировать карьерный путь. Лорво, свободно владеющая французским, английским, испанским и португальским языками, также высоко оценила программы Массачусетского технологического института по получению международного опыта.

Лорво, прошедшая стажировку в Сантьяго-де-Чили и Париже по программе MISTI, также участвовала в тестировании системы конденсации пара, разработанной её командой в рамках программы D-Lab 2023 года в партнёрстве с Политехнической школой Мадагаскара и неправительственной организацией Tatirano. Этот опыт помог ей понять, как бороться с экономическим неравенством.

Лорво заявил, что после окончания университета он хочет продолжить исследования в области безопасности и стратегий управления ИИ, чтобы гарантировать безопасное и эффективное развертывание ИИ.

«Эффективное управление — ключ к успешному развитию ИИ и помощи человечеству в реализации его преобразующего потенциала. Мы должны постоянно следить за развитием ИИ по мере развития технологий», — заявил Лорво.

(По данным новостей MIT)