최근 미국 워싱턴에서 열린 연설에서 스미스 씨는 AI에 대한 가장 큰 우려는 딥페이크라고 말했습니다. 딥페이크는 사실적으로 보이는 이미지와 영상을 만드는 기술입니다. 그는 사람들이 진짜와 가짜 사진 및 영상을 구분할 수 있도록 돕는 조치를 촉구했습니다.
마이크로소프트 사장은 "딥페이크 관련 문제를 해결해야 합니다." 라고 말했습니다. "AI를 이용해 합법적인 콘텐츠를 변조하여 사람들을 오도하거나 기만하는 행위를 근절하기 위한 조치를 취해야 합니다."
그는 또한 가장 중요한 형태의 AI에 "안전, 물리적 보안, 사이버 보안, 국가 안보를 보호할 의무"를 부여하는 라이선스를 부여할 것을 촉구했습니다. 그는 AI 모델이 도난당하거나 수출 통제를 위반하는 방식으로 사용되지 않도록 하기 위해 기존보다 최소한 한 단계 더 강화된 새로운 수출 통제가 필요하다고 말했습니다.
OpenAI의 ChatGPT 챗봇 출시 이후 AI 규제는 뜨거운 감자였습니다. 워싱턴 주 의원들은 크고 작은 기업들이 AI를 시장에 내놓기 위해 앞다퉈 뛰어드는 가운데, AI 규제 도입 방안을 놓고 고심하고 있습니다.
지난주, 오픈AI(OpenAI)의 CEO 샘 알트만은 미국 상원에서 AI를 이용해 선거의 공정성을 저해하는 것은 "큰 우려"라고 말했습니다. 그는 또한 AI 규제가 필요하다고 주장하며 이 분야에서 국제적인 협력을 촉구했습니다.
스미스는 AI로 인해 발생하는 모든 문제에 대해 사람들이 책임을 져야 한다고 주장했습니다. 그는 의원들에게 전력망, 상수도, 기타 중요 인프라를 관리하는 데 사용되는 AI 기술에 "안전 브레이크"를 걸어 인간이 통제할 수 있도록 해야 한다고 촉구했습니다. 그는 또한 강력한 AI 모델 개발자들이 자사 기술이 어떻게 사용되고 있는지 파악하고, 가짜 영상을 식별하는 데 AI가 생성한 콘텐츠가 무엇인지 대중에게 알릴 수 있도록 하는 "고객알기제도(KYC)"와 유사한 시스템을 언급했습니다.
이번 주 초, 펜타곤 인근 폭발 장면을 담은 AI 이미지가 소셜 미디어에 급속도로 퍼져나가며 여러 "블루틱" 계정에서 공유되었습니다. 이미지 출처는 불분명하며, 미국 국방부는 가짜임을 확인했지만, 몇 분 만에 주식 시장이 크게 폭락했습니다.
33만 6천 명 이상의 팔로워를 보유한 블루틱 트위터 계정 OSINTdefender는 해당 사진을 공유한 사이트 중 하나였습니다. 계정 소유자는 이후 허위 정보를 유포한 것에 대해 사과하며, "이러한 이미지가 정보를 쉽게 조작하는 데 사용될 수 있다는 것을 보여주는 사례" 라고 밝혔습니다.
또한, 이 사진은 최근 몇 주 동안 인기 있는 AI 이미지 중 하나인데, 세련된 흰색 코트를 입은 교황, 소니 월드 포토그래피 어워드를 수상한 흑백 사진, 경찰에 체포된 전 대통령 도널드 트럼프 등이 있습니다.
(CNN, 가디언에 따르면)
[광고_2]
원천
댓글 (0)