사진 8_오드리 로르보.jpg
오드리 로르보는 컴퓨터 과학, 경제학 , 데이터 과학을 전공하는 4학년생이며, 컴퓨팅 분야의 사회적 책임 및 윤리(SERC) 장학생입니다. 사진: MIT

AI 안전 연구 - 중요한 분야

오드리 로르보는 현재 AI 안전성을 연구하고 있습니다. 이 분야는 점점 더 지능화되는 인공지능 모델이 인류에게 신뢰성과 유익함을 유지하도록 하는 것을 목표로 합니다. 이 분야는 오류 허용 및 AI를 인간의 가치에 맞추는 것과 같은 기술적 과제에 중점을 두는 동시에 투명성 및 책임성과 같은 사회적 문제도 다룹니다. 전문가들은 또한 점점 더 강력해지는 AI의 실존적 위험에 대해 우려하고 있습니다.

로르보는 "AI가 오용되거나 인간의 의도에 반하여 작동하지 않도록 하는 것이 점점 더 중요해지고 있습니다. 특히 인공 일반 지능(AGI)에 더 가까워지고 있기 때문입니다."라고 말했습니다.

MIT 슈바르츠만 컴퓨팅 연구소의 사회적·윤리적 책임 컴퓨팅(SERC) 프로그램 연구원인 로르보는 AI가 AI 연구 및 개발 프로세스를 어떻게 자동화할 수 있는지에 관심을 가지고 있습니다. 그녀는 "AI를 안전하게 개발하기 위해 할 수 있는 모든 것을 해야 합니다."라고 강조하며, 위험에 대처하기 위한 적절한 거버넌스 프레임워크와 전략 수립을 촉구했습니다.

로르보는 AI 안전 엔지니어링 펠로우십과 같은 이니셔티브를 통해 AI 안전의 기술적 측면을 이해하는 데 전념하고 있으며, 이를 통해 인류에게 이로운 방식으로 AI 개발을 안내하는 방법을 연구하고 있습니다.

그녀는 "이 프로그램을 통해 AI 안전에 대한 기술적 문제와 과제를 더 깊이 이해할 수 있었고, 이를 통해 더욱 효과적인 AI 거버넌스 전략을 제안할 수 있었습니다."라고 말했습니다.

로르보에 따르면, AI 선구자들은 기술적 경계를 넓혀가고 있으며, 연구를 방해하지 않으면서 인간의 안전을 우선시하는 효과적인 정책 실행이 필요합니다.

다학제적 접근 방식의 가치

로르보는 MIT에 입학한 순간부터 과학과 인문학을 결합하고 싶어 했습니다. 하지만 다양한 교육 분야 때문에 구체적인 전공을 선택하기가 어려웠습니다.

"삶의 질을 향상시키는 방법은 다양하며, MIT는 이를 탐구할 수 있는 무수한 길을 제공합니다. 조슈아 앵그리스트 교수님의 계량경제학 수업은 경제 연구의 가치를 깨닫게 해 주었고, 데이터 과학과 컴퓨팅은 AI의 잠재력이 커지면서 흥미로웠습니다. 우리는 이러한 도구들을 활용하여 가장 시급한 문제를 해결하고 심각한 난관을 극복할 수 있습니다."라고 로보는 말했습니다.

로르보는 도시 계획과 국제 개발 분야로 연구 범위를 넓혔습니다. 자신의 분야를 더욱 깊이 파고들면서, 그녀는 많은 MIT 학생들, 특히 MIT AI 얼라인먼트 그룹이 책임 기술에 대한 자신의 견해에 공감한다는 것을 깨달았습니다.

"한계 영향"이라는 개념은 특정 분야에 시간, 돈, 또는 노력을 투자했을 때 발생하는 추가적인 영향을 설명합니다. 로르보에 따르면, 이러한 접근 방식은 개인이 자원을 더욱 효율적으로 투자하는 방법을 결정하는 데 도움이 됩니다.

자원이 한정된 세상에서 데이터 기반 접근 방식은 가장 큰 효과를 창출할 가능성이 높은 분야에 자원을 배분하는 데 도움이 될 수 있다고 로보는 주장합니다. 사회적 영향을 극대화하려면 직업 선택의 한계적 영향에 대해 생각하는 것이 중요합니다.

MIT에서의 학생 경험

로르보는 공부 외에도 의미 있는 경험을 쌓고 학생들과 교류하기 위해 과외 활동에 적극적으로 참여합니다.

"학업, 연구, 동아리 활동, 그리고 웨이트 트레이닝이나 과외 활동 참여 같은 개인적인 관심사까지 균형 있게 할 수 있어서 정말 행운이에요. MIT에는 항상 흥미로운 동아리와 행사가 많아서 탐험해 볼 만한 곳이 많아요."라고 로르보는 말했다.

이러한 기회들은 그녀의 시야를 넓혀 주었을 뿐만 아니라 진로를 정하는 데에도 도움이 되었습니다. 프랑스어, 영어, 스페인어, 포르투갈어에 능통한 로르보는 MIT의 국제 경험 프로그램도 높이 평가했습니다.

MISTI 프로그램을 통해 칠레 산티아고와 파리에서 인턴십을 했던 로르보는 2023년 D-Lab 졸업반의 일환으로 마다가스카르 폴리테크닉 학교 및 NGO 타티라노와 협력하여 자신의 팀이 설계한 증기 응축 시스템을 시험했습니다. 이러한 경험은 그녀가 경제적 불평등 해소 방안을 더 잘 이해하는 데 도움이 되었습니다.

로르보는 졸업 후 AI가 안전하고 효과적으로 배포되도록 AI 안전 및 거버넌스 전략에 대한 연구를 계속하고 싶다고 말했습니다.

"AI의 성공적인 개발과 인류가 AI의 혁신적인 잠재력을 최대한 활용하도록 돕는 데는 좋은 거버넌스가 핵심입니다. 기술이 계속 발전함에 따라 우리는 AI의 발전을 지속적으로 모니터링해야 합니다."라고 로르보는 주장했습니다.

(MIT 뉴스에 따르면)