인공지능: 단순히 인공지능을 강화하는 데 그치지 않고 안전성을 높여야 한다.

이미지.jpg

VinFuture 2025 과학기술주간 의 일환으로 열리는 패널 토론회 "인류를 위한 AI: 새로운 시대의 AI 윤리와 안전"에서는 과학자 , 정치인, 발명가 들이 모여 인간적 가치를 향한 책임 있는 AI 개발에 대해 논의합니다.

자신보다 똑똑한 존재, AI와 함께 살아가는 방법을 긴급히 생각해보세요

세미나에서 호주 뉴사우스웨일스 대학교의 토비 월시 교수이자 미국컴퓨터협회(ACA) 회원은 다음과 같이 단언했습니다. "저는 AI의 책임감 있는 사용이 의무화되어야 한다고 굳게 믿습니다. 오늘날 AI 덕분에 막대한 수익을 창출하는 등 여러 가지 왜곡된 인센티브가 존재하며, AI의 올바른 사용을 보장하는 유일한 방법은 엄격한 규제를 적용하여 공익과 상업적 이익이 항상 균형을 이루도록 하는 것입니다."

그는 미국에서 판결 및 선고와 같은 중요한 결정의 전형적인 사례를 언급했습니다. AI 시스템이 피고인의 형량과 재범 가능성에 대한 권고를 내리는 데 활용된 사례입니다. 안타깝게도 이 시스템은 과거 데이터를 기반으로 훈련되었고, 의도치 않게 과거의 인종적 편견을 반영하여 흑인 차별을 초래했습니다.

토비 월시 교수, 호주 뉴사우스웨일즈 대학교, 미국 컴퓨터 학회 회원.

따라서 AI 시스템을 구축하고 운영하는 회사는 이러한 "기계"가 초래하는 결과에 대해 책임을 져야 합니다.

제프리 힌튼 교수(VF 2024 본상 수상)는 AI가 위험한 바이러스, 사이버 공격, 선거를 교란하기 위한 가짜 영상 제작에 점점 능숙해지고 있다는 우려를 표명했습니다. 향후 20년 안에 AI는 우리보다 더 똑똑해질 것이며, 우리는 AI가 인간의 통제력을 빼앗는 것을 어떻게 막을지 알지 못하게 될 것입니다.

따라서 이 교수는 이렇게 강조했습니다. "우리는 우리보다 더 똑똑한 존재들과 어떻게 함께 살아갈지 시급히 고민해야 합니다. 이는 인류가 이전에 겪어보지 못한, 새로운 상황이며, 그에 앞서 많은 연구 노력이 필요합니다."

AI 위험을 제한하기 위한 국제 협력 강화 필요

이러한 우려를 공감하며, VinFuture 2024 본상 수상자인 요슈아 벤지오 교수는 AI 모델, 그 역량, 그리고 자율성 수준이 여전히 빠르고 꾸준한 속도로 발전하고 있다고 말했습니다. 이러한 추세가 지속된다면, 자율 AI 시스템은 단 5~10년 안에 대부분의 인지 작업에서 인간을 능가할 수 있을 것입니다.

이는 우리 삶의 질을 획기적으로 향상시킬 수 있는 역사적인 전환점이 될 것입니다. 하지만 신중하게 대처하지 않으면 민주주의, 지정학적 안정, 심지어 인류의 미래에도 큰 위험을 초래할 수 있습니다.

"우리는 첨단 AI를 단순히 강화하는 데 집중하기보다는 안전성을 강화해야 합니다. 안전과 신뢰는 부차적인 요소가 아니라 인류의 이익을 위한 발전 과정에서 필수적인 요소입니다. 우리는 정책적 측면과 과학적 측면 모두에서 함께 행동해야 합니다."라고 그는 말했습니다.

요슈아 벤지오 교수 - VinFuture 2024 본상 수상자.

이 과학자는 정책적 측면에서 세계가 국제 협력을 필요로 한다고 권고합니다. 과학적 측면에서는, 능력이 뛰어나면서도 인간에게 무해한 AI를 설계하는 방법을 더 잘 이해하고, 인간이 AI에게 잘못된 행동을 요구하더라도 안전하게 행동하도록 AI를 제어할 수 있는 능력을 유지하며, AI가 인간의 규범, 의도, 가치, 그리고 이익과 일치하도록 보장하는 기술적, 사회적 장벽을 구축하는 것이 필요합니다.

빈튼 그레이 서트 박사(구글 인터넷 홍보 담당 부사장 겸 이사 - VF 2022 대상 수상자)도 이에 동의합니다. "AI에 대한 책임을 묻고, AI가 언제, 무엇을 하는지, 특히 문제가 발생할 때를 파악하기 위한 책임 추적 체계를 구축해야 합니다." 인간에게 적용되는 많은 원칙들이 온라인 환경의 AI 에이전트에도 적용될 것입니다.

"우리는 강력한 신원 확인, 정보 보호를 위한 암호화, 책임 소재를 보장하는 메커니즘 적용, 그리고 타인에 의한 신원 도용 방지를 위한 보호가 일상적인 습관이 되도록 새로운 규범을 동시에 확립해야 합니다. 기술을 활용하여 처음부터 위험을 제한하고, 공동체와 사회에 해를 끼치는 것으로 밝혀진 사람은 누구나 그 행동에 대한 결과를 감수해야 한다는 점을 명확히 해야 합니다. 이를 위해서는 국제 협력이 필요합니다."라고 그는 말했습니다.

베트남은 AI 데이터 구축에 있어 자체적인 방향을 가져야 합니다.

난양기술대학교(싱가포르)와 빈유니대학교(베트남)의 루 안 투안 부교수는 다른 국가들은 약 10년 분량의 데이터 세트를 보유하고 있지만, 베트남은 처음부터 시작한다고 말했습니다. 따라서 우리는 처음부터 지속 가능한 데이터를 구축하여 깨끗하고 윤리적이며 문화적으로 적합한 데이터를 제공할 수 있습니다.

하지만 베트남의 가장 큰 과제는 베트남어의 특수성입니다. 베트남에는 다양한 방언 체계, 풍부한 지역 문화, 그리고 매우 복잡한 호칭 체계가 존재합니다. ChatGPT나 Gemini와 같은 대형 모델들은 베트남어를 지원하지만, 베트남어 방언, 관습, 역사를 제대로 이해하지 못하기 때문에 품질이 좋지 않습니다.

베트남은 자체적인 베트남 모델을 구축해야 합니다. 또한 중소기업들이 활용하고 기여할 수 있도록 오픈소스 모델을 개발해야 합니다. "'블랙박스' 형태의 외국 모델에만 의존한다면, 우리는 AI 사용자 일 뿐 AI 개발자는 될 수 없습니다 ." 라고 그는 말했습니다.

현재 루 안 투안 부교수와 그의 동료들은 베트남 AI 데이터를 구축하고 있습니다. 방언, 역사, 문화와 같은 요소를 중점적으로 고려해야 합니다.

그는 또한 외국에서는 학생들이 AI에 대해 매우 일찍부터 교육을 받고 있다고 말했습니다. 베트남은 이제 막 시작 단계이지만, 배우고 그에 맞춰 조정하면 더 빨리 발전할 수 있다고 덧붙였습니다.

"베트남 젊은이들은 매우 역동적입니다. 그들에게는 디지털 책임에 대한 충분한 교육이 필요합니다. 데이터 품질과 윤리 기준을 확립하고 표준화할 통합된 기구가 필요합니다. VinUni 또한 윤리 기준 시스템 구축을 위한 협의회에 참여하고 있으며, 앞으로도 이 과정에 기여할 것입니다."라고 그는 말했습니다.

루 안 투안(Luu Anh Tuan) 부교수, 난양 기술 대학교(싱가포르), 빈유니 대학교(베트남).

2030년까지 베트남이 AI 분야에서 동남아시아를 선도한다는 FDI 전략에 따라, 투안 부교수는 베트남이 수학, 물리, 화학 분야에서 국제적인 성과를 통해 입증된 우수한 인적 자원을 보유하고 있다고 믿습니다. 우리가 역량을 결집하고 강력한 정책을 수립한다면 2030년 목표는 충분히 달성될 수 있습니다.

토비 월시 교수는 베트남이 인력에 투자하고, 사람들의 역량을 적극적으로 향상시키며, AI를 이해하도록 보장하고, AI 기업가, 기업, 그리고 대학을 지원해야 한다고 권고합니다. 다른 나라가 기술을 이전하거나 우리에게 지침을 주기를 기다리기보다는, 우리는 적극적으로 나서서 기술을 숙달해야 합니다.

게다가 베트남은 국가의 민주주의에 영향을 미치지 않으면서 국내 사용자를 위한 안전한 환경을 조성하기 위해 소셜 네트워크 플랫폼을 강력히 동원해야 합니다.

타오 레 티엔 람

출처: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html