중국과 서방, AI 위험에 대한 '적색선' 설정

[광고_1]

저명한 국제 전문가 그룹이 지난주 베이징에 모여 생물학 무기 제작 및 사이버 공격 수행 등 AI 개발의 "경계선"을 확인했습니다.

학자들은 회의 며칠 후 발표한 성명에서 "우리가 살아있는 동안 인류에게 재앙적이거나 심지어 존재적 위험이 닥치는 것을 막기 위해" AI 안전에 대한 공동의 접근 방식이 필요하다고 경고했습니다.

"냉전이 절정에 달했을 때, 국제 과학 및 정부 협력은 핵 재앙을 막는 데 도움이 되었습니다. 인류는 전례 없는 기술로 인해 발생할 수 있는 재앙을 막기 위해 다시 한번 힘을 합쳐야 합니다."라고 성명서는 밝혔습니다.

서명자에는 AI의 "아버지"로 불리는 제프리 힌튼과 요슈아 벤지오가 포함됩니다. 캘리포니아 대학교 컴퓨터 과학과 스튜어트 러셀 교수 그리고 중국의 가장 저명한 컴퓨터 과학자 중 한 명인 앤드류 야오.

이 성명은 지난주 베이징에서 열린 국제 AI 안전 대화 이후에 나왔습니다. 이 회의에는 중국 정부 관계자들이 참석하여 포럼과 그 결과에 대한 승인을 표명했습니다.

미국 대통령 조 바이든과 중국 국가주석 시진핑은 작년 11월 만나 AI 안전에 대해 논의하고 이 문제에 대한 대화를 시작하기로 합의했습니다. 최근 몇 달 동안 세계 유수의 AI 기업들도 중국 AI 전문가들과 비공개로 회동했습니다.

2023년 11월, 중국을 포함한 28개국과 선도적인 AI 기업들은 영국 재무장관 리시 수낙의 AI 안전 정상회담에서 첨단 AI로 인한 실존적 위험을 해결하기 위해 협력하겠다는 광범위한 공약을 채택했습니다.

지난주 베이징에서 전문가들은 인간과 동등하거나 더 우수한 AI 시스템인 '인공 일반 지능(AGI)'의 개발과 관련된 위협에 대해 논의했습니다.

벤지오는 "토론의 핵심은 강력한 AI 시스템이 넘어서는 안 되는 한계와 전 세계 정부가 AI 개발 및 배포에 적용해야 하는 한계에 대한 것이었습니다."라고 말했습니다.

이러한 적색선은 "어떤 AI 시스템도 인간의 명시적인 승인과 지원 없이는 스스로를 복제하거나 개선할 수 없다" 또는 "그 힘과 영향력을 부당하게 증가시키는 행동을 취할 수 없다"는 것을 보장합니다.

과학자들은 어떠한 시스템도 "행위자들이 대량살상무기를 설계하거나, 생물학적 또는 화학적 무기 협약을 위반하는 능력을 크게 향상시킬 수 없을 것"이며 "심각한 재정적 손실이나 이와 동등한 피해를 초래하는 사이버 공격을 자동으로 수행할 수 없을 것"이라고 덧붙였다.

황하이 (FT에 따르면)

[광고_2]
원천

캣바 섬의 야생 동물

응우치선 섬의 불타는 듯한 붉은 일출 풍경

10,000개의 골동품이 당신을 옛 사이공으로 데려갑니다

호 삼촌이 독립 선언서를 낭독한 곳