AI가 인류의 생존을 위협하지 않도록 하세요

VinFuture 2024 상을 수상한 'AI의 대부'들은 과학자들이 AI 시나리오가 인류의 생존을 위협하지 않도록 해야 한다고 생각합니다.

오늘, 12월 7일, VinFuture 2024 Prize 수상자들은 VinUni 대학교의 학생들 및 젊은 과학자들과 과학 연구와 그들이 추구하는 분야의 미래 전망에 대해 이야기를 나누었습니다. 본상 수상자들은 오늘날 AI 혁명의 토대를 마련한 획기적인 연구 업적을 이룬 뛰어난 과학자들로, AI의 놀라운 발전에 대해 이야기했습니다.

교환 세션에 참석한 Yann LeCun 교수(가운데)와 Yoshua Bengio 교수(왼쪽 표지)

"우리는 마치 10년 후로 미래를 향해 나아간 것 같은 느낌이 듭니다."

수상을 위해 베트남에 오지 않은 캐나다 토론토 대학교의 제프리 힌튼 교수가 화상 회의에 참여했습니다. 힌튼 교수와 얀 르쿤 교수, 요슈아 벤지오 교수는 모두 2018년 컴퓨터 과학 분야의 노벨상으로 불리는 튜링상을 수상했으며, 국제 언론에서 "AI 대부"로 불립니다. 현재 세 사람 모두 빈퓨처 2024의 주요 상을 수상했으며, 다른 두 과학자인 페이 페이 리 교수(미국)와 젠슨 황(엔비디아 CEO)도 수상자로 선정되었습니다.

힌튼은 최근 AI 폭발적인 성장은 세 가지 요인 덕분이라고 말합니다. 첫째, 신경망의 더 효율적인 학습 방식을 개발하려는 노력인데, 힌튼과 요슈아, 얀을 비롯한 많은 연구자들이 이를 위해 노력해 왔습니다. 둘째, 그래픽 처리 장치(GPU)의 놀라울 정도로 빠른 컴퓨팅 성능과 방대한 양의 데이터 수집이 그 요인입니다.

Geoffrey Hinton 교수가 영상을 통해 공유합니다.

"이 상(VinFuture 2024)의 가장 큰 장점은 AI에 유용한 GPU 보드 개발에 선구적인 역할을 한 젠슨 황 씨의 업적을 인정받았다는 점입니다. 젠슨 황 씨의 GPU 보드와 페이페이 리 교수의 데이터 세트는 현대 AI 발전에 중요한 역할을 했습니다. 신경망 알고리즘 연구자들과 함께 그들의 업적을 인정받게 되어 매우 기쁩니다."라고 힌튼 교수는 말했습니다.

"GPU를 사용하여 신경망을 훈련시켰더니 30배 더 빨라졌습니다. 엄청난 도약이었습니다. 마치 컴퓨팅 속도가 시대를 10년 앞선 것 같았습니다. 갑자기 컴퓨팅 속도 측면에서 미래보다 10년 앞서 나간 셈이죠. AI에 있어 완전히 판도를 바꾼 놀라운 사건이었습니다!"라고 힌튼 교수는 말했습니다.

과학자들은 신경망의 연결 구조를 더 깊이 이해하기 위해 끊임없이 노력하고 있습니다. 이를 통해 과학자들은 인간 지능과 더 유사하고 직관까지 설명할 수 있는 인공지능을 개발할 수 있을 것입니다. 기존의 논리적 접근 방식으로는 결코 그렇게 할 수 없습니다.

"AI가 무서워지기 시작했어요"

힌튼 교수는 오늘날의 대규모 신경망이 인간과 유사한 방식으로 직관을 가지고 있다고 말했습니다. 작년에 그는 AI가 인간만큼 똑똑해지는 데 5년에서 20년 정도 걸릴 수 있다는 우려를 하기 시작했습니다. "그때부터 AI에 대한 걱정이 생겼습니다. 개발을 중단하는 것은 선택 사항이 아닙니다. 따라서 유일한 선택지는 AI가 우리보다 더 똑똑해질 때 AI를 안전하게 보호할 방법을 찾는 것입니다."라고 힌튼 교수는 말했습니다.

"하지만 세상의 종말이 불가피하다고 생각하지는 않습니다."라고 힌튼 교수는 말합니다. "하지만 그 가능성을 무시할 수는 없으며, 우리는 이를 막기 위해 열심히 노력해야 합니다. 가장 재능 있는 학생들이 AI 안전에 대한 연구를 선택하여 AI의 지배와 같은 장기적인 위협부터 사이버 범죄와 같은 단기적인 위협까지 광범위한 위협에 대처하기를 바랍니다."

요슈아 벤지오 교수와 얀 르쿤 교수

얀 레쿤 교수는 AI가 인간만큼 똑똑해지면 인간을 지배할 위험에 대해서도 우려한다고 말했습니다. 하지만 현재로서는 아직 답이 나오지 않았습니다. 얀 교수는 "30유로짜리 작은 장난감으로 체스를 두다가 질 수도 있습니다. 그게 위험한 걸까요? 답은 '아니요'입니다. AI는 우리가 (인간을 통제하려는) 동기를 부여할 때만 위험해집니다. 하지만 현재 AI는 지식만 있을 뿐, 동기는 없습니다."라고 말했습니다.

얀 교수에 따르면, 인간에게 적극적으로 봉사하는 AI를 만드는 것은 단지 기술적인 문제일 뿐입니다. AI는 똑똑하기 때문에, AI가 인간을 지배할 것이라는 생각은 편견입니다. 왜냐하면 현실은 사회에 똑똑한 사람들이 많았지만, 그들이 세상을 지배하지는 못했음을 보여주기 때문입니다! AI는 여전히 도구일 뿐이며, 문제는 AI가 아니라 인간에게 있습니다.

요슈아 벤지오 교수에 따르면, 우리는 주관적일 수 없으며, 작은 문제조차도 인류의 생존에 영향을 미칠 수 있다고 합니다. 인간은 기계에 동기를 부여할 수 있습니다. 예를 들어, 누군가 기계를 인간으로 만들어 "생존"의 욕구를 가진 것처럼 보이게 하고 싶어 할 때, 우리는 기계를 끄고 싶어 하지만 기계는 꺼지지 않습니다. 벤지오 교수는 "물론 그런 상황이 발생하지 않도록 해야 합니다."라고 말했습니다.

출처: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm