AI '탄생'시킨 교수, AI 윤리 공유 위해 베트남 처음 온다

인공지능(AI) 개발의 토대를 마련한 과학자 중 한 명인 요슈아 벤지오 교수는 12월 5일 오후 하노이에서 열린 고급 기술 워크숍 "안전한 AI - 책임 있는 혁신 형성"에서 "AI 안전"에 대해 발표했습니다.

행사의 일환으로 요슈아 벤지오 교수는 "책임 있는 AI와 교육 에서 AI의 중요성"에 대한 토론을 진행했으며, 베트남 소프트웨어 및 정보 기술 서비스 협회(VINASA) 산하 AI 윤리위원회 출범식을 참관했습니다.

요슈아 벤지오 교수는 가장 중요한 것은 기술 개발과 인권 보호, 그리고 지속 가능한 사회 개발이 함께 이루어져야 한다고 믿습니다. AI는 급속히 발전하고 있으며, 데이터 효율성은 30% 증가하고, 알고리즘 성능은 3배가 되었으며, 이 분야에 대한 투자는 연간 평균 1,000억 달러에 달하고 있으며, 표준 평가에 따르면 AI의 역량은 언어 습득 및 데이터 처리 측면에서 인간 역량을 능가했습니다.

그러나 이러한 급속한 발전은 인간보다 더 똑똑한 AI 시스템을 제어할 수 있는 능력에 대한 우려스러운 의문을 제기합니다. 그러한 맥락에서 중요한 윤리적 문제가 발생합니다. AI의 목표는 누가 결정해야 할까요? 올바르게 이해하고 행동하는 것의 시급성은 책임일 뿐만 아니라 인류의 미래에 중요한 요소입니다.

요슈아 벤지오 교수가 제시한 중요한 원칙 중 하나는 AI는 목표를 설정하고 그 목표를 달성하기 위해 행동할 수 있는 '에이전트'가 아닌 인간에게 봉사하는 도구로 구축되어야 한다는 것입니다. 왜냐하면 AI의 목표는 원래 인간의 의도와 충돌하거나 넘어서는 경우가 있기 때문입니다.

따라서 요슈아 벤지오 교수에 따르면, 우리는 AI 시스템에 대한 "생존 본능"을 설계하는 것을 피해야 합니다. 즉, 우리는 인간과 유사한 감정, 외모, 심지어 의식, 행위력, 자율성을 갖춘 AI 시스템을 설계해서는 안 된다는 뜻입니다.

세계 경제 포럼이 2023년에 발표한 '미래 노동 시장 보고서'에 따르면, 2025년까지 AI가 전 세계적으로 1,200만 개의 새로운 일자리를 창출할 것으로 예상된다고 합니다. 맥킨지의 또 다른 연구에 따르면 AI는 2030년까지 전 세계적으로 2,000만~5,000만 개의 새로운 일자리를 창출하는 데 기여할 수 있다고 합니다.

FPT Corporation 회장 Truong Gia Binh에 따르면, AI는 인간의 일자리를 빼앗는 위협이 아닌 "동맹"으로 간주되어야 합니다. 노동 시장에서 경쟁력을 유지하려면 AI를 배우고 적용하는 것이 중요합니다. AI, 머신 러닝, 데이터 과학에 대한 기본적인 이해는 물론, AI 시스템을 효과적으로 사용하는 데 필요한 문제 해결 및 분석 기술도 포함됩니다.

또한 워크숍의 틀 안에서 VINASA는 인공지능 윤리위원회의 설립을 발표했습니다. 이 행사에는 요슈아 벤지오 교수(몬트리올 대학교 및 밀라 연구소), VINASA 임원진, 그리고 여러 VINASA 회원사 임원진이 참석했습니다.

인공지능 윤리위원회의 설립은 윤리적 틀 안에서 혁신이 발전하고, 글로벌 경쟁력을 확보하며, 사회적 가치를 보호하는 인공지능 생태계를 구축하려는 베트남의 노력을 보여줍니다.

위원회는 베트남의 AI 개발 로드맵을 안내하고, AI가 윤리적이고 혁신적이며 사회적 이익을 위해 배포되도록 보장하며, AI에 유리한 법적 환경을 촉진하는 임무를 맡고 있습니다.

요슈아 벤지오 교수는 AI가 자연어 처리(NLP), 컴퓨터 비전, 머신 러닝, 로봇 공학 등의 분야에 널리 적용되는 실용적인 기술이 될 수 있는 기반을 마련하는 데 세계적으로 가장 큰 영향력을 행사한 인물 중 한 명입니다. 1993년 그는 밀라 AI 연구소를 설립했는데, 이 연구소는 몬트리올(캐나다)을 딥러닝 기술의 글로벌 중심지로 만드는 데 크게 기여했습니다.

VNA에 따르면

출처: https://doanhnghiepvn.vn/cong-nghe/giao-su-khai-sinh-ai-lan-dau-sang-viet-nam-chia-se-ve-dao-duc-ai/20241206103838021