인공지능에 대한 안전 기준 찾기

[광고_1]

SGGP 2023년 7월 31일 09:35

유럽이 인공지능(AI)에 관한 세계 최초의 법안 초안을 작성하고 곧 시행한 후, 미국의 4대 인터넷 데이터 마이닝 거대 기업이 Frontier Model Forum이라는 그룹을 출범시켰습니다.

프론티어 모델 포럼의 핵심 목표는 AI를 책임감 있게 장려하는 것입니다. 사진: THINKWITHNICHE

당사자들이 서로 더 가까워진다

Anthropic, Google, Microsoft, 그리고 ChatGPT 소유주인 OpenAI가 포함된 이 그룹은 프론티어 모델 포럼의 핵심 목표가 AI 플랫폼으로 인한 위험을 줄이고 업계 표준을 개발하는 것이라고 밝혔습니다. 프론티어 모델 포럼은 다음과 같은 주요 목표를 가진 새로운 포럼을 설립할 예정입니다. AI 개발을 지원하고, 위험을 완화하며, 안전성 평가 및 수준을 표준화하기 위한 AI 안전성 연구 촉진; 모델 개발 및 배포를 위한 모범 사례 도출; 대중이 기술의 특성, 역량, 한계 및 영향을 이해하도록 지원; 정책 입안자, 학계, 시민 사회, 기업과 협력하여 위험 및 안전성에 대한 지식 공유.

기술 대기업들은 전통적으로 규제 강화에 저항해 왔지만, 이번에는 AI가 야기하는 위험에 대한 우려가 커지면서 기술 업계의 입장이 전반적으로 바뀌었습니다. 프론티어 모델 포럼(Frontier Model Forum) 이니셔티브에 참여한 기업들은 기업 간 모범 사례를 공유하고, 정부 와 시민 사회에 정보를 공개하겠다고 약속했습니다.

특히, 프론티어 모델 포럼은 AI를 새로운 차원의 정교함으로 끌어올리는 대규모이지만 아직 초기 단계인 머신러닝 플랫폼에 초점을 맞출 것입니다. 이는 잠재적 위험 요소이기도 합니다. 또한, 프론티어 모델 포럼은 기후 변화 완화 및 적응, 조기 암 발견 및 예방, 사이버 위협 대응과 같은 주요 사회적 과제를 해결하는 애플리케이션 개발도 지원할 것입니다.

잠재적 파괴의 여지

미국 기업들이 프론티어 모델 포럼(Frontier Model Forum)을 발표한 것은 7월 25일 미국 상원 법사위원회 소위원회 청문회에서 미국 상원의원들이 AI가 생물학적 공격에 사용될 위험성을 경고한 지 며칠 만에 나온 것입니다. 최근 OpenAI, Alphabet, Meta 등 7개 주요 기술 기업들은 백악관에 자발적으로 AI가 생성한 텍스트, 이미지, 오디오, 비디오 등 모든 콘텐츠를 식별하는 시스템을 개발하겠다고 약속했습니다. 이는 사용자에게 투명성을 보장하고 AI 기술의 안전성을 더욱 강화하기 위한 것입니다.

AI 앤트로픽의 CEO 다리오 아모데이는 AI가 아직 생물무기를 개발할 수준은 아니지만, "중기적" 위험 요소이며 향후 2~3년 안에 미국 국가 안보에 심각한 위협이 될 것이라고 지적했습니다. 대규모 생물무기 공격을 감행하는 주체가 더 이상 이 분야의 전문 지식을 가진 사람들로 제한되지 않기 때문입니다.

전 세계는 생성적 AI 기술로 제작된 콘텐츠의 폭발적인 증가에 직면해 있습니다. 미국, 유럽, 아시아 등 전 세계적으로 규제가 점차 강화되고 있습니다. CNN에 따르면, 미국 상원은 9월부터 의원들을 대상으로 AI가 일자리, 국가 안보, 그리고 지식재산권에 미치는 영향에 대해 논의하는 9차례의 워크숍을 추가로 개최할 예정입니다. 미국보다 앞서, 합의가 도출될 경우 유럽 연합은 내년에 세계 최초의 AI 관리법을 제정하여 2026년부터 시행될 예정입니다.

AI가 사회에 가져다주는 이점은 부인할 수 없지만, 이 새로운 기술의 잠재적 위험에 대한 경고가 점점 커지고 있습니다. 6월, 안토니오 구테흐스 유엔 사무총장은 국제원자력기구(IAEA)와 유사한 국제 AI 감시기구를 설립하자는 여러 AI 관련 임원들의 제안을 지지했습니다.

프론티어 모델 포럼에서 마이크로소프트 사장 브래드 스미스는 이 이니셔티브가 기술 기업들을 하나로 모아 모든 인류의 이익을 위한 AI의 책임 있는 사용을 장려하는 중요한 단계라고 말했습니다. 마찬가지로, OpenAI 글로벌 담당 부사장 안나 마칸주도 첨단 AI 기술이 사회에 심오한 혜택을 가져올 잠재력을 가지고 있으며, 이를 위해서는 감독과 거버넌스가 필요하다고 말했습니다.

[광고_2]
원천