멸종의 위협과 AI 시대의 역설!

5월, 알트먼 CEO는 워싱턴 DC에 있는 미국 상원에 의원들에게 긴급히 요청하는 청원서를 제출했습니다. AI의 우월성을 이용하는 것 외에도, AI가 인간을 압도할 위험을 최소화하기 위해 엄격한 규정을 조만간 만들어야 합니다.

웹사이트의 ChatGPT 인터페이스. 사진: Shutterstock

“사회와 인류에 심각한 위험”

작년 말 OpenAI의 ChatGPT가 출시되면서 38세의 알트만은 사용자의 요구에 따라 이미지와 텍스트를 생성할 수 있는 새로운 종류의 AI 도구의 창시자로 떠올랐습니다. 이 기술은 생성적 AI라고 불립니다.

ChatGPT는 출시 후 얼마 지나지 않아 널리 알려지게 되었습니다. 임원들은 이를 이용해 이메일을 작성하고, 사람들은 코딩 경험이 전혀 없이도 웹사이트를 구축하고, 법학과 경영대학원의 시험에 합격하기도 했습니다. 교육, 금융, 농업 , 미디어, 저널리즘, 수술부터 의료용 백신 개발까지 건강을 포함한 거의 모든 산업에 혁명을 일으킬 잠재력을 가지고 있습니다.

하지만 같은 도구는 학교에서의 부정행위와 일자리 상실, 심지어 인류의 존재 자체에 대한 위협에 대한 우려를 불러일으켰습니다.

예를 들어, AI의 등장으로 인해 경제학자들은 노동 시장에 대해 경고하고 있습니다. 골드만삭스의 추정에 따르면, 전 세계적으로 최대 3억 개의 정규직 일자리가 AI를 사용하여 결국 어떤 방식으로든 자동화될 수 있습니다. 세계경제포럼의 4월 보고서에 따르면, 단 5년 만에 약 1,400만 개의 일자리가 사라질 수 있다고 합니다.

또한 알트먼은 미국 의회 에서의 증언에서 AI가 유권자를 조작하고 허위 정보를 표적으로 삼는 데 사용될 가능성이 "내가 가장 우려하는 분야" 중 하나라고 말했습니다.

공청회 2주 후, 알트만은 수백 명의 주요 AI 과학자, 연구자, 기업 리더와 함께 다음과 같은 내용의 서한에 서명했습니다. "AI로 인한 멸종 위험을 최소화하는 것은 전염병과 핵전쟁과 같은 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다."

이 경고는 언론과 미디어에 널리 보도되었습니다. 그리고 점점 더 많은 사람들이 이러한 종말론적 시나리오를 더 심각하게 받아들여야 한다고 주장하고 있습니다.

하지만 실리콘 밸리에는 큰 역설이 있습니다. 일부 대형 기술 회사의 CEO는 대중에게 AI가 인류를 멸종시킬 수 있는 잠재력이 있다고 말하지만, 실제로는 수십억 명의 사용자에게 이 기술에 투자하고 배포하기 위해 경쟁하고 있습니다.

알트만은 오랫동안 AI가 제기하는 위험에 대해 우려를 표명해 왔으며, 책임감 있게 나아갈 것을 약속했습니다. 그는 조 바이든 대통령과 카말라 해리스 부통령을 포함한 백악관 간부들과 회동하는 기술 기업 CEO 그룹 중 한 명으로, 윤리적이고 책임감 있는 AI 개발의 중요성을 강조했습니다.

하지만 그것만으로는 충분하지 않습니다. 일부 사람들은 Altman과 OpenAI가 더 신중하게 행동하기를 원합니다. 그룹을 떠나기 전 OpenAI를 설립하는 데 참여했던 일론 머스크를 비롯한 수십 명의 기술 리더, 교수, 연구자들은 OpenAI와 같은 인공지능 연구소에 최소 6개월 동안 가장 강력한 AI 시스템의 훈련을 중단할 것을 요구하며, "사회와 인류에 심각한 위험"을 안겨주었다고 밝혔습니다.

알트먼은 편지의 일부 내용에 동의하며, "안전 수준을 높여야 한다"는 내용도 포함했지만, 일시 중단이 과제를 해결하는 "최적의 방법"은 아니라고 말했습니다.

OpenAI는 아직도 가속 페달을 밟고 있습니다. 가장 최근에는 OpenAI와 iPhone 디자이너인 조니 아이브가 스마트폰을 대체할 AI 기기를 위해 일본 대기업인 소프트뱅크로부터 10억 달러를 모금하기 위한 협상을 진행 중이라고 보도되었습니다.

샘을 믿을 수 있을까?

알트만은 2015년 CNN과의 인터뷰에서 OpenAI를 설립할 당시, 잠재적인 위험에 대해 걱정만 하고 아무것도 하지 않기보다는 AI의 방향을 정하고 싶다고 말했습니다. 그는 "이제 내가 어느 정도 영향력을 행사할 수 있다는 걸 알고 있으니 잠이 더 잘 온다"고 선언했다.

하지만 알트만은 그 기술에 대해 우려를 표했다. 그는 2016년 뉴요커 기사에서 "생존에 대비했다"고 말하며 "AI가 우리를 공격하는 것"을 포함한 여러 가지 재앙적 시나리오를 언급했습니다.

OpenAI CEO 샘 알트먼이 5월 16일 미국 워싱턴에서 미국 상원에서 연설하고 있다. 사진: AP

"하지만 저는 총, 금, 항생제, 배터리, 물, 가스 마스크... 그리고 빅서에 날아갈 수 있는 엄청난 땅이 있습니다." 그는 재난이 닥치더라도 개인적으로 살아남을 수 있다는 것을 암시했습니다. 그것은 분명 이기적인 발언입니다.

아마도 지금까지 가장 광범위한 노력으로, 바이든 대통령은 이번 주 초에 강력한 AI 시스템 개발자들에게 대중에게 공개하기 전에 연방 당국과 안전 테스트 결과를 공유하도록 요구하는 행정 명령을 발표했습니다. 이는 국가 안보, 경제 또는 건강 위험을 초래하는지 확인하기 위한 것입니다.

미국 상원 청문회 이후, 워싱턴 대학의 교수이자 계산언어학 연구소의 소장인 에밀리 벤더는 AI가 엄격하게 규제되더라도 AI의 미래에 대해 우려를 표명했습니다. "그들이 정말로 이것이 인류 멸종으로 이어질 수 있다고 믿는다면, 왜 멈추지 않겠어요?" 그녀는 선언했다.

워싱턴 대학의 기술 역사학자이자 교수인 마가렛 오마라는 좋은 정책 입안은 단지 하나나 몇 가지가 아니라 다양한 관점과 이해관계를 반영해야 하며, 대중의 이익에 따라 형성되어야 한다고 말했습니다. 오마라는 "AI의 과제는 AI가 어떻게 작동하는지, 그리고 AI를 사용하는 것이 무엇을 의미하는지 실제로 이해하는 사람과 회사가 매우 적다는 것입니다. 마치 원자 폭탄과 같습니다."라고 말했습니다.

따라서 알트만이 대량 살상 무기가 될 수 있다고 스스로 인정하고 재난이 닥쳤을 때 대피소를 준비한 기술을 사용하여 인류의 최선의 이익을 위해 행동할 것이라고 세상이 기대하는 것은 위험할 것입니다. 게다가 그는 결국 인간일 뿐이지, 슈퍼히어로도, 구세주도 아니잖아요!

황하이 (CNN, FT, Reuters에 따르면)

원천: https://www.congluan.vn/tri-tue-nhan-tao-moi-de-doa-diet-vong-va-nghich-ly-thoi-dai-ai-post270736.html