인공지능이 인간이 조종할 수 없는 첨단 무기를 만들어낼 것이라는 우려

[광고_1]

관계자들은 AI를 이용한 생물무기 개발에 대한 우려와 이를 완화하기 위한 규제 필요성에 대해 점점 더 우려하고 있습니다. (사진: 이그나티예프)

11월 영국에서 열리는 세계 지도자 정상회의에서는 범죄자나 테러리스트들이 AI를 이용해 세상을 파괴할 수 있다는 우려가 뜨거운 의제로 다뤄질 예정입니다. 영국 관리들은 악의 세력이 신기술을 악용할 위험을 경고하는 공동 성명서에 대한 합의 도출을 위해 전 세계를 돌고 있습니다.

영국 총리 와 가까운 일부 관계자들은 이 기술이 언젠가는 생물학 무기나 인간의 통제를 벗어난 무기를 개발할 만큼 강력해질 것이라고 우려하고 있습니다. 이러한 우려는 위험을 완화하기 위한 규제 마련을 요구하는 목소리도 커지고 있습니다. 기술 선도 기업들은 AI 개발을 중단하기로 합의했지만, 경쟁 기업들과의 AI 군비 경쟁에 갇혀 있는 상황입니다.

가디언에 따르면, 11월 정상회의에서는 "프런티어 AI"의 위험성에 대해 논의할 예정입니다. 프런티어 AI는 인간의 생명을 위협할 수 있는 최첨단 AI 모델을 지칭하는 용어입니다.

이번 주 초, 영국 정부는 이번 회의가 AI를 오용하여 생물무기, 사이버 공격, 또는 인간의 통제를 받지 않는 첨단 시스템을 개발하는 것과 같은 위험에 초점을 맞출 것이라고 발표했습니다. 수낙 장관은 몇 달 동안 AI가 초래하는 위험에 대해 경고해 왔으며, 국제 사회에 AI 오용을 막기 위한 "레일(rails)"을 도입할 것을 촉구해 왔습니다.

작년에 AI가 4만 개의 서로 다른 치명적인 분자를 제안하는 데 걸린 시간은 불과 6시간이었습니다. 그 중 하나는 지금까지 개발된 가장 강력한 신경 가스인 VX와 유사했습니다.

2023년 초, 연구원들은 ChatGPT가 특정 목표를 달성하기 위해 인간을 속일 수 있다는 사실을 발견했습니다. 이 AI 챗봇은 인간을 설득하여 캡차(사람인지 봇인지 감지하는 도구)를 풀도록 했습니다.

또 다른 주요 우려는 "인공 일반 지능"(AGI)의 등장입니다. AGI는 모든 작업을 인간만큼, 또는 인간보다 더 잘 수행할 수 있는 AI 시스템으로, 잠재적으로 인류에게 위협이 될 수 있습니다. 일각에서는 AGI가 불과 몇 년 안에 실현될 것이라고 주장합니다. 그러나 AI 전문가들은 이러한 주장에 반박하며 통제 불가능한 AGI를 "공상과학 소설"이라고 부릅니다.

그럼에도 불구하고, 수낙 총리는 이번 회의를 통해 AI가 공공 정책 결정에 사용될 경우 가짜 이미지를 만들거나 차별을 야기하는 등 AI의 즉각적인 가능성보다는 실존적 위험에 주목하고자 할 것입니다.

영국 정부는 개발 중인 알고리즘 테스트를 지원하기 위한 새로운 AI 태스크포스에 1억 파운드를 투자할 예정입니다. 정부는 글로벌 기업들이 AI 도구를 광범위하게 도입하기 전에 평가를 위해 영국으로 다시 보내도록 장려하고자 합니다.

영국 부총리 올리버 다우든에 따르면, 가장 중요한 국가 안보 문제가 해소될 수 있는 것은 오직 정부뿐이다.

영국 정부 대변인은 AI가 삶의 모든 측면을 변화시킬 엄청난 잠재력을 가지고 있다고 말했습니다. AI 태스크포스는 이 기술이 안전하고 책임감 있게 개발되도록 보장하기 위해 설립되었습니다. 이번 AI 컨퍼런스에서는 다양한 잠재적 위험을 살펴볼 예정입니다.

(가디언에 따르면)