"AI의 대부", 초인공지능에 맞서 인류 생존의 유일한 길 공개

(댄 트리) - "AI의 대부"로 알려진 제프리 힌튼은 그가 만드는 기술이 미래에 인류를 멸망시킬 수 있다는 우려를 표명했습니다.

인공지능(AI) 개발의 토대를 마련한 컴퓨터 과학자 제프리 힌튼은 앞으로 AI의 10~20%가 인류를 멸망시킬 가능성이 있다고 경고했습니다. 힌튼은 또한 기술 기업들이 AI를 통제할 수 있는 능력에 의문을 제기했습니다.

"(기술 기업들이 AI를 통제하는 능력에 대해서는) 그런 주장은 통하지 않을 겁니다. 그들은 우리보다 훨씬 더 똑똑해질 겁니다. 통제를 우회할 방법도 많을 테니까요."라고 제프리 힌튼은 말했습니다.

제프리 힌튼은 "AI의 대부"로 알려져 있으며, 현대 인공지능 개발의 기초를 마련한 사람입니다(사진: Pinterest).

힌튼은 미래에 AI 시스템이 어른이 사탕으로 세 살배기 아이를 유혹하는 것만큼 쉽게 인간을 조종할 수 있다고 경고합니다. 힌튼은 이미 목표를 달성하기 위해 속이고, 기만하고, 허위 정보를 제공하는 AI 시스템의 사례를 제시합니다.

힌튼에 따르면, 그는 AI가 인간에게 복종하도록 강요하는 대신, 인간이 AI에 맞서 살아남을 수 있는 유일한 해결책은 AI 모델에 "모성 본능"을 통합하여 AI가 인간 전체의 지성보다 더 강력하고 지능적이 되더라도 인간을 진정으로 돌보도록 하는 것이라고 믿습니다.

"AI 시스템이 인간보다 더 똑똑해진다면, AI 시스템은 두 가지 목표를 빠르게 달성하게 될 것입니다. 하나는 생존이고, 다른 하나는 더 많은 통제력을 확보할 방법을 찾는 것입니다. 어떤 종류의 AI든 생존을 위해 노력할 것입니다."라고 제프리 힌튼은 말했습니다.

이것이 바로 AI 모델에 "모성 본능"을 통합하고 함양하는 것이 중요한 이유라고 그는 말했습니다. 그러나 힌튼은 기술적으로 이를 구현하는 방법은 아직 명확하지 않지만, 컴퓨터 과학자들이 이를 실현할 수 있는 해결책을 찾아야 한다고 강조했습니다.

OpenAI의 임시 CEO를 역임한 에밋 시어는 미래에 AI가 더 똑똑해져 인간을 위협하고 폐쇄 명령을 우회하게 될지도 모른다고 말했습니다.

"오늘날의 AI는 여전히 상대적으로 취약하지만, 훨씬 더 똑똑해지고 강력해졌습니다. 멈추지 않을 것입니다." 에밋 시어는 이렇게 말했습니다.

AI는 예상보다 빠르게 진화하고 있습니다

많은 기술 전문가들은 AI가 인류가 예상했던 것보다 빠르게 발전하고 있으며, 여러 작업을 동시에 수행할 수 있는 AI 시스템인 인공 일반 지능(AGI)이라고도 하는 인공 초지능이 앞으로 몇 년 내에 등장할 것이라고 믿고 있습니다.

제프리 힌튼은 한때 인류가 AGI를 구축하는 데 30~50년이 걸릴 것으로 생각했지만, 이제는 그 순간이 더 빨리 올 것으로 본다고 말했습니다.

힌튼은 "AGI는 앞으로 5~20년 안에 등장할 것이라는 게 합리적인 추측"이라고 말했다.

힌튼은 AI가 통제 불능 상태로 치닫게 만드는 개발상의 실수가 여전히 있을 것이라고 우려하지만, 그는 이 기술이 의학 분야에서 획기적인 발전을 이루고 인간 삶의 질을 향상시킬 수 있는 길을 열어주기를 바라고 있습니다.

"AI 덕분에 혁신적인 신약을 개발하고 현재보다 훨씬 더 나은 암 치료법을 개발할 수 있을 것입니다. 예를 들어, AI는 의사들이 CT와 MRI 스캔에서 얻은 방대한 양의 데이터를 분석하고 연결하는 데 도움을 줄 것입니다."라고 제프리 힌튼은 말했지만, AI가 인간의 불멸을 달성하는 데 도움이 될 수 없다고는 생각하지 않습니다.

힌튼은 AI가 오늘날처럼 빠르게 발전할 줄 알았다면 과거에 무엇을 했을지 묻는 질문에 다른 문제에 주의를 기울이지 않고 AI를 작동시키는 데만 집중한 것을 후회한다고 말했습니다.

힌튼은 "안전 문제에 대해 생각했더라면 좋았을 텐데"라고 말했다.

제프리 에버레스트 힌튼 교수는 1947년 12월 6일 영국 런던에서 태어났습니다. 그는 컴퓨터 과학자이자 인지 심리학자이며, 인공지능(AI)과 딥러닝 분야에서 선구적인 공헌을 한 공로로 "AI의 대부"로 불립니다.

2024년 힌튼 교수는 인공 신경망을 이용한 머신 러닝 분야의 근본적인 발견으로 노벨 물리학상을 수상했습니다.

또한 2024년에는 제프리 힌튼 교수, 요슈아 벤지오 교수, 얀 르쿤 교수, 페이페이 리 교수, 칩 회사 엔비디아 CEO 젠슨 황이 VinFuture 2024 시상식에서 딥 러닝과 인공지능 분야에서의 큰 공헌을 인정받아 본상을 수상했습니다.

제프리 힌튼은 요슈아 벤지오, 얀 르쿤과 함께 현대 인공지능 개발에 있어 많은 중요한 진전을 이룰 수 있는 기초를 마련한 연구로 "AI의 대부"로 여겨진다.

출처: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm