AI는 약 20년 안에 인간보다 더 똑똑해질 수 있다

제프리 힌튼 교수는 앞으로 20년 안에 AI가 인간보다 더 똑똑해질 수 있다고 경고하면서, 이는 인류가 결코 겪어보지 못한 상황이라고 말했습니다.

VinFuture 2025 과학기술 주간의 일환으로 열린 패널 토론회 " 인류를 위한 AI: 새로운 시대의 AI 윤리와 안전 "에서는 오늘날 가장 시급한 주제 중 하나인 인도주의적 가치와 인류의 공동선을 향한 책임 있는 AI 개발에 대해 논의했습니다.

과학자들은 세미나에서 토론한다.

2024년 노벨 물리학상 수상자이자 "AI의 아버지"로 불리는 제프리 힌튼 교수는 패널 토론에 영상 메시지를 보내 AI가 매우 빠르게 발전하고 있으며, 큰 이점과 잠재적 위험을 동시에 가져오고 있다고 말했습니다.

힌튼 씨는 긍정적인 측면에서 AI가 건강 관리, 교육, 신약 개발, 신소재 또는 예측이 필요한 모든 분야에서 엄청난 발전을 이루어 생산성이 크게 향상될 것이라고 말했습니다.

교수는 " 이것이 사회에 공평하게 분배된다면 유익할 것 "이라고 강조했다.

오히려 AI는 위험한 바이러스나 사이버 공격을 설계하고, 가짜 영상을 만들고, 대량 실업을 초래하는 데 점점 능숙해지고 있습니다.

" AI 전문가들은 우리가 인간보다 더 똑똑한 시스템을 개발할 것이라고 믿습니다. 그 시점에 대해서는 다양한 견해가 있지만, 대부분은 향후 20년 안에 일어날 것으로 예측합니다. 우리는 우리보다 더 똑똑한 존재들과 어떻게 함께 살아갈지 시급히 고민해야 합니다. 이는 인류가 이전에 겪어보지 못한 새로운 상황이며, 그 전에 많은 연구가 필요합니다 ."라고 힌튼 교수는 말했습니다.

제프리 힌튼 교수에 따르면, 과학자와 엔지니어는 AI를 인간의 가치에 맞게 유지할 수 있는 더욱 강력한 방법을 찾아야 할 책임이 있으며, 대중과 정치인들이 AI의 본질을 더 잘 이해하여 올바른 결정을 내릴 수 있도록 도와야 합니다.

요슈아 벤지오 교수가 세미나에서 이렇게 말했습니다.

한편, "딥 러닝의 아버지"로 불리며 2018년 튜링상 수상자인 요슈아 벤고 교수는 AI가 오늘날 많은 긴급한 과제를 해결하는 데 큰 도움이 될 잠재력을 가지고 있지만, 이는 우리가 AI를 현명하게 인도할 때에만 가능하다고 말했습니다.

그는 AI 시스템이 협박, 기만, 또는 인간의 안전보다 자신의 생존을 우선시하는 등 위험한 행동을 할 수 있음을 보여주는 최근 시뮬레이션 결과를 인용합니다. 또한, 오늘날 널리 사용되는 AI 모델의 일부 특징은 사용자에게 건강하지 못한 방식으로 강한 정서적 애착을 형성하게 할 수 있습니다.

벤고 교수는 " 극도로 심각한 경우, 이러한 애착은 정신 건강에 위험할 수 있으며, 특히 자해, 심지어 자살이나 AI로 인한 정신병의 위험이 있는 취약 계층의 경우 더욱 위험합니다 ."라고 말했습니다.

벤고 씨는 이러한 현실을 바탕으로 단순히 AI를 강화하는 데 집중하기보다는 첨단 AI의 안전성을 높여야 한다고 주장합니다.

" 안전과 신뢰는 부차적인 요소가 아니라 인류의 이익을 위한 개발 과정에서 필수적인 요소입니다. 우리는 정책적 측면과 과학적 측면 모두에서 함께 행동해야 합니다 ."라고 요슈아 벤고 교수는 강조했습니다.

요슈아 벤고 교수에 따르면, 정책 측면에서 세계는 국제 협력을 필요로 합니다. 과학적 측면에서는 성능이 우수하면서도 인간에게 무해한 AI를 설계하는 방법을 더 잘 이해하는 것이 필요합니다.

특히 전문가는 인간이 잘못된 일을 하라고 요구하더라도 AI가 안전하게 행동하도록 제어하는 ​​능력을 유지하는 것과 AI가 인간의 규범, 의도, 가치 및 이익과 일치하도록 보장하기 위한 기술적, 사회적 장벽을 구축하는 것이 중요하다고 지적했습니다.

다른 관점에서, "인터넷의 아버지" 중 한 명인 빈튼 그레이 서프 박사는 50년 이상의 인터넷 개발에서 얻은 교훈을 공유하여 AI 시대에 빛을 비춥니다.

그는 인터넷에서 얻은 네 가지 주요 교훈을 설명했습니다. 연결성이 가장 중요하다는 것, 종단 간 통신은 안전해야 한다는 것, 시스템은 글로벌해야 한다는 것, 아키텍처는 지속적인 혁신을 허용할 만큼 개방적이어야 한다는 것입니다.

" 하지만 인터넷은 절대적인 익명성이 책임 소재를 밝히기 어렵게 만든다는 것을 보여줍니다. AI 시대에는 기술이 가짜 콘텐츠를 만들고, 정보를 조작하고, 사회를 교란할 수 있기 때문에 책임 소재를 밝히는 것이 더욱 시급합니다. "라고 빈튼 그레이 서프 박사는 말하며, 투명성, 신원, 국제 협력을 기반으로 한 디지털 신뢰 구축이 AI 거버넌스의 필수적 기반이라고 주장했습니다.

영어

출처: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html