"인공지능이 위험한 이유는 무엇일까요?"

사실, 과학자들이 인공지능이 인류에게 미칠 수 있는 잠재적 위험에 대해 경고한 것은 이번이 처음이 아닙니다. 2014년, 저명한 영국 이론 물리학자 스티븐 호킹은 "인공지능이 완전히 발전한다면 인류는 파멸할 수 있다"고 말했습니다. 그는 또한 이 위험한 기술의 연구 개발에 신중을 기하지 않으면 500년 안에 인류가 인공지능으로 완전히 대체될 것이라고 예측했습니다. 8년 전인 2015년 7월, 스티븐 호킹, 일론 머스크, 노암 촘스키 등을 포함한 1,000명 이상의 인공지능 전문가들이 군사 인공 지능 분야의 군비 경쟁 위험성을 경고하고 자율 무기(인공지능과 살상 무기를 결합한 것)의 전면 금지를 촉구하는 청원서에 서명했습니다. 2022년 11월, 오픈AI가 출시한 챗 GPT 애플리케이션은 인공지능의 내재적 위험성에 대한 또 다른 경종을 울렸습니다. 실제로 챗 GPT의 행보는 인공지능이 사람들이 생각했던 것보다 훨씬 더 위험해졌다는 것을 보여줍니다.

인공지능의 잠재적 위험은 사용 방식에 따라 달라집니다. 초기에는 인공지능이 인간의 업무, 특히 이미지 분류나 정보 검토와 같은 지루하고 반복적인 작업을 지원하기 위해 개발되었습니다. 그러나 최근 인공지능의 급속한 발전으로 인해 과학자들 과 기술 전문가들은 인공지능이 제대로 통제되지 않거나 잘못된 목적으로 프로그래밍될 경우 인류와 사회에 심각한 결과를 초래할 수 있다고 우려하고 있습니다.

불안정의 위험

인공지능은 국가 안보와 개인 안전에 위협이 될 수 있습니다. 일론 머스크는 AI가 전쟁에서 무시무시한 도구가 될 수 있다고 경고했습니다. 만약 한 국가가 탁월한 인공지능 시스템을 개발할 수 있다면, 이를 이용해 다른 나라를 공격할 수 있습니다. 수십 년간 인공지능을 연구해 온 캘리포니아 대학교 컴퓨터 과학과 교수 스튜어트 러셀은 기존 기술을 통합하고 소형화함으로써 자율 무기를 만들 수 있게 되었다며 AI가 제기하는 안보 위협에 대해 경고했습니다.

스튜어트 러셀 교수와 미래생명연구소(FLI)가 진행한 이 실험에서는 도살 로봇이라는 초소형 비행 장치를 사용했습니다. 이 로봇은 카메라, 센서, 이미지 처리 소프트웨어, 얼굴 인식 기능, 3g의 폭발물, 그리고 인간 두뇌보다 100배 빠른 데이터 분석 및 반응 속도를 가진 고속 마이크로프로세서를 탑재하고 있습니다. 프로그래밍된 매개변수에 따라 도살 로봇은 클라우드 데이터에 지속적으로 접속하여 목표물에 대한 정보를 검색하고 접근 경로를 찾습니다. 목표물을 발견하면 고속으로 돌진하여 3g의 폭발물을 폭발시키고 두개골 깊숙이 관통하여 즉사시킵니다.

그것은 인공지능을 가장 단순한 수준에서 실험해 본 것에 불과했습니다. 만약 인공지능이 새롭고 더욱 정교한 공격 방법을 개발하는 데 사용된다면, 공격자의 공격 능력 또한 향상되어 기존 공격보다 훨씬 심각한 결과를 초래할 수 있습니다. 인공지능이 변화하는 환경에 대처하기 위해 스스로 결정을 내리거나, 독립적으로 대체 목표물을 탐색하거나, 공격 범위를 확장할 수 있는 수준에 도달한다면, 인류는 더 이상 안전하지 않을지도 모릅니다. 이 분야의 많은 동료들은 스튜어트 러셀 교수의 의견에 동의하며, 그러한 암울한 미래를 막을 기회가 아직 남아 있다고 믿지만, 우리에게 남은 시간은 그리 많지 않습니다.

위험성은 인공지능이 조직화되고 자율성을 확보하여 시스템을 장악할 수 있다는 점입니다.

인공지능(AI)은 잘못 설계되거나 머신러닝을 통해 부적절하게 "훈련"될 경우, 인간과 환경에 해를 끼치는 의도치 않은 행동으로 이어질 수 있습니다. 예를 들어, 머신러닝을 통해 AI는 점점 더 지능화되고 있습니다. 인공지능이 전력, 교통, 의료 , 금융과 같은 핵심 시스템을 지원할 수 있는 수준에 도달하면, 이러한 시스템 전체를 통제하고 스스로 결정을 내려 비상 상황에서 실행할 수 있게 됩니다. 그러나 악의적인 의도를 가진 AI(잘못 설계된 AI)는 신호등을 무력화시켜 교통 시스템을 마비시키거나 도시 철도 시스템의 전력 공급을 차단하여 연쇄 사고와 광범위한 정전을 초래하는 등 심각한 결과를 야기할 수 있습니다.

많은 할리우드 및 해외 영화들이 이러한 시나리오를 바탕으로 제작되었습니다. 하지만 현재의 AI 기술로 볼 때, 이는 더 이상 먼 미래의 이야기가 아니라 충분히 실현 가능한 현실입니다. 일론 머스크는 AI가 통제되지 않고 발전하여 인간의 개입 없이 스스로 결정을 내릴 수 있는 수준에 이르면 인류 생존에 위협이 될 수 있다고 믿습니다. 이러한 이유로 그는 수천 명의 기술 전문가들과 함께 AI 개발을 중단하고 투명한 방식으로 엄격하게 통제할 것을 요구하는 서한에 서명했습니다. 일론 머스크에 따르면, 인공지능 시스템은 복잡하고 이해하기 어려우며, 통제하기가 매우 어렵습니다. 투명성이 확보되지 않으면, 인류에게 해를 끼치는 비윤리적인 목적으로 인공지능이 악용되는 것은 불가피합니다.

실직 위험, 사생활 침해.

인공지능 기술은 개인 정보 수집에 사용될 경우 사생활 침해, 허위 정보 유포, 사회 질서 및 정치적 안정에 악영향을 미치는 잘못된 정보 확산에 악용될 수 있습니다. 미국 인사관리처(OPM) 네트워크 해킹 사건은 모든 국가와 조직에 심각한 우려를 불러일으킵니다. 이 사건으로 현직 및 퇴직 미국 공무원 2,150만 명의 배우자 정보, 건강 상태, 거주지, 직업, 지문, 재정 정보 등 정부 채용 지원서에 포함된 매우 민감한 개인 정보가 유출되었기 때문입니다. 더욱 충격적인 사실은 CIA가 OPM 데이터 탈취범들이 인공지능을 이용해 개인 정보를 위조하고 가상 에이전트를 생성하여 데이터를 빼돌렸다는 점을 밝혀낸 것입니다. 탈취된 정보는 빅데이터 기술을 이용해 분석, 분류, 특정 목적에 맞게 악용됩니다. 인공지능은 인간이 단기간에 처리할 수 없는 방대한 양의 정보를 탈취하는 데 걸리는 시간을 단축시켜 줍니다.

앞서 언급한 내재적 위험 외에도, 인공지능 기술은 과도한 의존으로 이어져 상황 통제력 상실과 의사결정 능력 저하를 초래할 수 있다는 위험을 내포하고 있습니다. 또한, 인공지능은 특히 지식 기반이 낮은 단순 육체노동 분야에서 수백만, 심지어 수억 명의 일자리를 빼앗을 가능성이 있습니다. 그 결과 실업, 범죄, 빈부 격차 심화와 같은 심각한 사회 문제가 더욱 악화될 것입니다. 더욱이, 신뢰성은 매우 중요한 문제입니다. 의료나 형사 사법과 같은 고도로 전문화된 분야에서는 의사결정의 신뢰성이 극히 중요합니다. 이러한 분야에서 인공지능을 활용하여 의사결정을 지원할 때, 기술의 신뢰성이 충분하지 않거나, 특정 집단이나 개인에게 유리한 데이터에 기반하거나, 의도적으로 데이터를 왜곡하는 경우, 심각한 결과를 초래할 수 있습니다.

어떻게 하면 이를 예방할 수 있을까요?

앞서 언급한 위험 요소들 때문에 일론 머스크와 기술 전문가들은 인공지능의 통제되지 않은 발전에 대해 우려하고 있으며, 유엔과 국제기구에 서한을 보내 인공지능 개발에 대한 엄격한 통제, 안전 및 윤리적 보장, 그리고 인공지능 기술이 인류와 사회에 유익하게 사용되도록 국제 협력을 강화할 것을 촉구하고 있습니다. 구체적인 조치로는 다음과 같은 것들이 있습니다.

- 시스템 신뢰성 관리: AI는 인간의 의도대로 작동하고 신뢰성 부족으로 인한 원치 않는 영향을 방지하기 위해 엄격하고 빈번하며 지속적인 품질 관리, 모니터링 및 감독 방법을 통해 안전성과 신뢰성을 확보하도록 설계 및 개발되어야 합니다.

인공지능(AI) 기술은 윤리적 가치와 사회적 규범에 따라 작동하도록 프로그래밍되어야 합니다. 이러한 규정과 기준은 명확하게 수립되고 모니터링되어야 하며, AI 기술이 사람이나 조직에 해롭거나 부정적인 영향을 미치지 않도록 보장해야 합니다. AI 시스템의 성능을 분석, 평가 및 모니터링하는 과정 또한 정기적으로 수행되어야 하며, 이를 통해 AI 시스템이 윤리적으로 작동하고, 사회의 공통 가치를 침해하거나 훼손하지 않으며, 부정적인 영향을 미치지 않고, 지식과 가치의 정확한 전달을 보장하는지 확인해야 합니다.

저널리즘은 인공지능의 영향을 가장 많이 받는 산업 중 하나입니다. 미래에는 라디오 프로그램에서 실제 진행자가 필요 없어지고, 텔레비전 프로그램에서는 가상 진행자가 주를 이루게 될 것입니다.

- 인공지능 시스템의 "학습"을 최소 6개월 동안 일시적으로 중단하고 전체적인 문제를 재평가해야 합니다. 이 중단은 공개적이고 통제된 방식으로 이루어져야 하며, 학습에 관련된 모든 주요 이해관계자가 준수해야 합니다. 필요한 경우, 정부는 일시적인 금지 조치를 내릴 수 있습니다. 이는 인공지능 개발을 완전히 중단하라는 의미가 아니라, 인공지능 시스템을 더욱 정확하고, 안전하며, 이해하기 쉽고, 투명하고, 관련성이 높고, 신뢰할 수 있고, 충성도 있게 만드는 다른 개발 모델로 전환하기 위한 위험한 경쟁을 일시적으로 멈추자는 것입니다. 이는 일론 머스크와 그의 동료들이 공개 서한에서 주장한 포괄적인 해결책이지만, 실현 가능성은 낮습니다. 모든 독립 연구소가 이처럼 구속력이 없고 국가를 초월하는 호소에 따르는 것은 매우 어렵습니다.

- 국가 간 및 독립적인 AI 연구 기관 간의 협력과 정보 공유를 강화하는 것은 미래에 AI가 안전하게 개발되고 사용되도록 보장하는 데 매우 중요합니다. 협력과 정보 공유는 또한 발생 가능한 위험에 대한 시의적절한 경고와 예방을 가능하게 합니다.

일반적으로 인공지능(AI)은 이미 우리 주변 어디에나 존재하며, 인공지능이 시, 음악, 기사를 쓰는 이야기는 더 이상 공상 과학 소설이 아닌 현실이 되었습니다. 이 글의 저자는 컴퓨터와 스마트폰의 AI 기술을 활용하여 글쓰기를 지원받았으며, 덕분에 더욱 원활하고 빠르게 작업을 진행할 수 있었습니다. 특히 서론과 몇 가지 아이디어는 AI가 제안했으며, 더욱 놀라운 것은 이 글에 사용된 모든 이미지가 AI에 의해 생성되었다는 점입니다. 인공지능 기술은 인간의 업무와 삶의 질을 향상시키는 데 매우 유용하지만, 이론 물리학자 스티븐 호킹이 예측한 것처럼 미래에 인간을 대체할 가능성을 막기 위해 엄격한 관리가 필요합니다.

글과 사진: 후우 두옹

원천: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/vi-sao-ai-nguy-hiem-723863