새로운 인공지능이 생물학 무기 개발에 이용될 수 있다.

이 사진은 오픈AI의 GPT-o1에 대해 알아볼 수 있는 인터페이스를 휴대전화에 보여주는 모습입니다. (사진 제공: 파이낸셜 타임스)

파이낸셜 타임즈 는 9월 13일, 오픈AI가 9월 12일에 출시한 GPT-o1 모델이 인공지능(AI)을 이용해 생물학 무기를 개발할 위험성을 "상당히" 높인다는 사실을 인정했다고 보도했다.

OpenAI가 GPT-o1의 작동 방식을 설명하는 문서에 따르면, 이 새로운 모델은 화학, 생물학, 방사능 및 핵무기와 관련된 문제에 대해 "중간 위험 수준"을 가지고 있습니다. 이는 OpenAI가 자사 AI 모델에 부여한 위험 수준 중 가장 높은 등급입니다.

OpenAI에 따르면, 이는 GPT-o1이 전문가들이 악용할 목적으로 생물학 무기를 제조하는 능력을 "상당히 향상시킬 수 있다"는 것을 의미합니다.

오픈AI의 최고기술책임자(CTO)인 미라 무라티는 GPT-o1이 아직 테스트 단계에 있지만, 이 모델의 뛰어난 기능 때문에 일반에 공개하는 로드맵에 대해 매우 "신중"해야 한다고 말했습니다.

무라티 씨는 또한 해당 모델이 다양한 분야의 전문가로 구성된 팀에 의해 철저하게 검증되었다고 주장했습니다. 이 전문가들은 오픈AI가 개발한 모델의 한계를 검토하기 위해 고용한 사람들입니다.

무라티는 테스트 과정을 통해 GPT-o1 모델이 이전 모델들보다 일반적인 안전 기준을 훨씬 더 잘 충족하는 것으로 나타났다고 밝혔습니다.

또한 OpenAI 관계자는 GPT-o1 시험 버전이 "배포에 안전하며" 이미 개발된 기술보다 더 복잡한 위험을 초래하지 않는다고 확언했습니다.

이러한 확언에도 불구하고, 과학계 와 인공지능 애호가들 상당수는 이 기술의 미래에 대해 여전히 비관적인 시각을 갖고 있습니다.

인공지능이 너무 빠르게 발전하여 관련 규제가 개발 및 승인되는 속도를 앞지르고 있다는 우려가 커지고 있습니다.

몬트리올 대학교 컴퓨터 과학 전문가이자 세계적인 AI 과학자 중 한 명인 요슈아 벤지오 교수는 오픈AI가 현재 화학 및 생물학 무기와 관련하여 "중간 정도의 위험"을 내포하고 있다면, 이는 캘리포니아에서 뜨거운 논쟁이 벌어지고 있는 법안과 같이 이 분야를 규제하기 위한 "규제의 중요성과 시급성을 더욱 강조하는 것"이라고 말했다.

이 과학자는 인공지능이 인간과 동등한 수준의 추론 능력을 갖춘 범용 인공지능(AGI)에 점점 더 가까워지고 있는 상황에서 이러한 기관들이 특히 필요하다고 강조했습니다.

"첨단 AI 모델이 일반 인공지능(AGI)에 가까워질수록 적절한 예방 조치를 취하지 않으면 위험이 커집니다. AI의 추론 능력 향상과 이를 이용한 사기 가능성은 매우 위험합니다."라고 벤지오는 평가했습니다.

출처: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm