'AI 대부'가 그록의 성 스캔들에 대해 입장을 밝혔다.

일론 머스크의 소셜 미디어 계정 'X'에 인공지능 도구 '그록'으로 생성된 사적인 사진들이 광범위하게 유포되면서, 이러한 기술 산업의 급속한 성장에 대한 우려가 커지고 있다.

선구적인 컴퓨터 과학자 인 요슈아 벤지오는 기술 기업들이 적절한 기술적, 사회적 장벽 없이 시스템을 구축하고 있다고 주장합니다.

벤지오는 가디언 과의 인터뷰에서 현재 상황이 아직 완전히 혼란스러운 것은 아니지만 즉시 시정되어야 한다고 말했다.

"이 산업은 규제가 너무 미흡합니다. 선도적인 AI 기업들은 점점 더 강력한 시스템을 구축하고 있지만 안전장치가 부족하여 사람들에게 명백한 부정적 영향을 미치고 있습니다." 라고 그는 말했다.

그록 파 — Grok 앱은 두 국가에서 사용이 금지되었으며 현재 영국에서 조사를 받고 있습니다. 사진: PA

이 성명은 그가 최근 역사학자 유발 노아 하라리와 전 롤스로이스 CEO인 존 로즈 경을 자신의 AI 안전 연구소 이사회에 임명한 직후에 나왔습니다.

여론과 정치권 의 압력에 굴복한 소셜 미디어 플랫폼 X는 유료 계정을 포함해 그록이 비키니 등 노출이 심한 옷을 입은 실제 사람들의 사진을 편집하는 것을 차단했다고 발표했습니다.

벤지오에 따르면, 해결책의 일부는 기업 이사회에 윤리적으로 올바른 인물들을 영입하는 것을 포함한 더 나은 지배구조에 있다고 합니다.

하라리와 로즈 외에도 그는 나이키 재단 설립자인 마리아 에이텔을 지난해 자신이 설립한 로제로 안전 연구소의 소장으로 임명했다.

벤지오는 2018년 튜링상(컴퓨터 산업의 노벨상으로 여겨지는 상)을 수상한 후 "인공지능의 대부"라는 별명을 얻었습니다. 그는 제프리 힌튼, 얀 르쿤(메타의 인공지능 부문 회장)과 함께 이 영예를 공유했습니다.

스테판 뢰벤 전 스웨덴 총리가 이 기구의 글로벌 자문위원회 첫 번째 위원으로 선임될 예정이다. 한편, 역사학자이자 《 사피엔스: 인류의 간략한 역사 》의 저자인 하라리는 인공지능 개발에 대해 자주 경고하는 주요 인물이며, 최근 저서 《넥서스》에서도 이러한 경고를 강조했다.

벤지오는 "이것은 단순히 인공지능 분야를 선도하는 기업들 간의 기술적인 논의에 그치는 것이 아니다"라며 , "핵심은 어떤 선택이 윤리적으로 타당한가에 있다"고 강조했다.

현재 몬트리올 대학교 컴퓨터 과학과 교수인 벤지오는 LawZero를 위해 3,500만 달러(약 2,600만 파운드)를 모금했습니다.

이 조직은 잠재적으로 유해한 행동을 감지하기 위해 자율 시스템, 즉 AI 에이전트와 병렬로 작동하는 '사이언티스트 AI'라는 시스템을 구축하고 있습니다.

그는 이사회 구성이 높은 도덕성을 지닌 인사들을 한데 모으는 것을 기반으로 한다고 강조했습니다. 이들은 LawZero가 설계 단계부터 안전한 AI 시스템 엔지니어링 솔루션을 제공한다는 사명에 전념할 수 있도록 도울 것입니다.

지난달 벤지오는 인공지능에 권한을 부여하는 것에 대해 경고하며, 해당 기술이 자기 보존 본능을 보이고 있다고 주장했습니다. 이는 인공지능 안전 옹호자들이 우려하는 주요 사항입니다. 그는 필요할 경우 인간이 이러한 시스템의 전원을 차단하는 것을 막아서는 안 된다고 강조했습니다.

(가디언지에 따르면)