구글의 AI 연구 부문인 딥마인드의 CEO인 데미스 하사비스는 "AI 종말"에 대해 지나치게 우려하지 않습니다. 그는 기술이 잘못된 사람의 손에 넘어갈 위험과 복잡하고 자율적인 AI 모델을 제어할 수 있는 안전 장치가 부족할 것을 더 우려합니다.
그는 최근 영국에서 열린 SXSW 행사에서 CNN 과의 인터뷰에서 "두 가지 위험 모두 중요하고 어렵습니다."라고 말했습니다.
지난주, 유명 AI 연구소인 앤트로픽(Anthropic)의 CEO는 일자리 시장의 미래에 대해 심각한 경고를 내놓았습니다. 그는 AI가 전체 화이트칼라 일자리의 절반을 없앨 수 있다고 예측했습니다. 하지만 그가 가장 우려하는 것은 이론적으로 인간 수준의 지능을 달성할 수 있는 AI의 한 유형인 "인공 일반 지능(AGI)"의 잠재적 오용 가능성입니다.
"악당은 이러한 기술을 악의적인 목적으로 재사용할 수 있습니다." 라고 그는 말했다. "그래서 중요한 질문은… 악당들이 이 강력한 시스템에 접근하는 것을 어떻게 제한하면서도… 선량한 사람들이 그 시스템을 이용해 훌륭한 일들을 많이 할 수 있도록 허용할 수 있느냐는 것입니다."
5월, FBI는 해커들이 AI를 이용해 정부 공무원들의 가짜 음성 메시지를 만들었다고 밝혔습니다. CNN 에 따르면, 작년 미국 국무부 가 의뢰한 보고서에서도 AI가 "치명적인" 국가 안보 위험을 초래할 수 있다는 내용이 발견되었습니다. AI는 또한 딥페이크 포르노 제작에도 활용되었습니다.
하사비스가 이러한 우려를 제기한 것은 처음이 아닙니다. AI는 인터넷 이후 가장 중요한 기술 발전 중 하나로 칭송받고 있지만, 동시에 사기꾼과 악의적인 행위자들에게 그 어느 때보다 더 많은 도구를 제공하고 있습니다. 특히, 별다른 규제 없이도 빠르게 성장하고 있다는 점이 주목할 만합니다.
하사비스는 AI를 어떻게 사용해야 하는지에 대한 기본 원칙과 이 기술이 "좋은 사용 사례"에만 사용되도록 보장하는 방법에 대한 국제적 합의가 필요하다고 생각합니다.
"물론 지정학적 상황을 고려하면 어려워 보입니다." 라고 그는 말했다. "하지만 상황이 나아지고 AI가 더욱 정교해짐에 따라, 세상은 AI의 필요성을 점점 더 인식하게 될 것이라고 생각합니다."
DeepMind의 CEO는 사람들이 AI "도우미"를 이용해 대신 작업을 수행하는 미래로 향하고 있다고 믿습니다. Google은 검색 기능에 더 많은 AI를 통합하고 AI 기반 스마트 안경을 개발하여 이러한 비전을 실현하기 위해 노력하고 있습니다.
"우리는 이를 전능한 AI 비서라고 부르기도 합니다. 이 비서는 어디든 당신과 함께 다니며 일상생활을 돕고, 간단한 행정업무를 대신 처리해 줄 뿐만 아니라, 책과 영화, 심지어 만날 친구까지 추천해 주어 삶을 풍요롭게 해줍니다."라고 구글 딥마인드 CEO가 말했습니다.
그러나 AI는 여전히 편견이나 "환각"과 같은 한계에 취약하며, 이는 이 기술을 사용하는 기업들에 몇 가지 심각한 문제를 야기했습니다. 예를 들어, 시카고 선타임스와 필라델피아 인콰이어러는 존재하지 않는 책들을 포함한 AI가 생성한 여름 독서 목록을 발표했습니다.
하사비스는 AI가 일자리를 없앨 것이라고 생각하지 않습니다. AI 분야의 다른 전문가들과 마찬가지로, 그는 이 기술이 새로운 유형의 일자리를 창출하고 생산성을 높일 수 있다고 믿습니다. 하지만 그는 사회가 적응하고 "AI가 창출하는 모든 추가 생산성을 경제에 어떻게 분배할지"를 고민해야 할 가능성이 높다는 점을 인정합니다.
그는 AI를 인터넷과 같은 다른 기술 변화의 발전과 비교합니다.
"보통은 사라지는 일자리 중 일부를 대체하기 위해 새롭고 더 나은 일자리가 생겨납니다. 이번에는 그런 일이 일어날지 지켜봐야겠습니다." 라고 그는 말했습니다.
(CNN에 따르면)
출처: https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html
댓글 (0)