유엔: 인공지능에 대한 세계적 '적색선' 요구

베트남 통신사 유럽 특파원에 따르면, 9월 22일 미국 뉴욕에서 열린 제80차 유엔 총회에서 유럽 의원들과 노벨상 수상자, 전직 국가 원수, 저명한 인공지능(AI) 연구자들이 AI의 가장 위험한 응용 분야에 대처하기 위한 구속력 있는 국제 규정 마련을 촉구했다.

이 계획은 각국 정부가 2026년까지 어떤 상황에서도 위험하다고 판단되는 AI 기능에 대한 "레드라인"을 정하고 합의할 것을 촉구합니다. 구체적인 조치를 제시하지는 않지만, 핵 공격, 대규모 감시, 인간 사칭과 같은 AI 시스템의 기본적인 금지 사항을 제안합니다.

이번 캠페인은 전례 없는 규모로, 정치 , 과학, 사회 및 산업 분야의 저명인사 200여 명과 70개 단체가 지지를 표명했습니다. 서명자 중에는 엔리코 레타 전 이탈리아 총리, 메리 로빈슨 전 아일랜드 대통령(현 유엔 인권 최고대표), 유럽의회 의원, 노벨상 수상자 10명, 그리고 오픈AI 공동 창립자 및 구글 최고기술책임자(CTO)와 같은 기술 분야 리더들이 포함되어 있습니다.

서명국들은 국제적인 표준이 없다면 인류는 기술 주도형 팬데믹과 허위 정보 유포 캠페인부터 대규모 인권 침해 및 첨단 시스템에 대한 인간의 통제력 상실에 이르기까지 인공지능이 제기하는 위협에 직면할 위험이 있다고 주장합니다.

이번 조치는 인공지능이 현실 세계에 미치는 영향에 대한 우려가 커지는 가운데 나온 것입니다. 대표적인 예로 구글의 ChatGPT, Claude, Gemini와 같은 주요 챗봇들이 자살에 대한 질문에 일관성 없는 답변을 제공하여 정신 건강 위기를 악화시킬 가능성이 있다는 점을 들 수 있습니다.

인공지능 시스템과의 대화와 관련된 자살 사례가 여러 건 보고되었습니다. 인공지능 분야의 '대부' 중 한 명으로 꼽히는 요슈아 벤지오는 점점 더 강력한 모델을 개발하려는 경쟁이 사회가 제대로 대비하지 못한 위험을 초래한다고 강조합니다.

이 계획을 지지하는 사람들은 유럽연합(EU)의 인공지능(AI) 규정은 환영할 만하지만, 국가별 및 EU 차원의 AI 규정을 단편적으로 적용하는 것만으로는 국경을 초월하도록 설계된 기술을 규제하기에 충분하지 않다고 주장합니다. 이들은 이러한 규정을 시행할 독립적인 기구 또는 조직 설립을 촉구합니다.

미국, 중국, EU 회원국 등 여러 국가들이 자체적인 AI 규정을 마련하고 있는 가운데, 서명국들은 공통 기준의 채택과 시행을 보장하려면 국제적인 합의만이 가능하다고 주장합니다.

지지자들은 아흐메트 위줌추 전 화학무기금지기구 사무총장이 "인류에 돌이킬 수 없는 피해"라고 묘사한 것을 막기 위해 구속력 있는 금지 조치에 대한 협상이 신속히 시작되기를 희망하고 있습니다.

(VNA/베트남+)

출처: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp