스페인에서 AI 콘텐츠에 라벨을 붙이지 않는 기업은 엄청난 벌금을 물게 됩니다.

(CLO) 스페인 정부는 인공지능(AI)이 생성한 콘텐츠를 적절한 라벨 없이 사용하는 기업을 엄중히 처벌하는 새로운 법안을 통과시켰습니다.

오스카 로페즈 디지털 변혁 장관은 이 법안이 고위험 AI 시스템에 대한 투명성을 요구하는 유럽연합(EU) AI법의 엄격한 규정을 준수한다고 밝혔습니다. 그는 AI가 삶의 질 향상에 도움이 될 수 있지만, 잘못된 정보를 퍼뜨리는 데 악용될 수도 있다고 강조했습니다.

아직 하원의 승인을 받아야 하는 이 법안에 따르면, 스페인은 AI 콘텐츠 라벨링 위반을 "심각한 위반"으로 간주하여 위반 회사의 연간 글로벌 매출의 최대 3,500만 유로 또는 7%에 달하는 벌금을 부과할 수 있다고 규정하고 있습니다.

일러스트: GI

이러한 조치는 AI를 이용해 실제 콘텐츠로 착각될 수 있는 이미지, 비디오 또는 오디오인 딥페이크의 확산을 억제하기 위한 것입니다.

이 법안은 딥페이크 외에도 AI를 이용해 취약 계층을 착취하는 등 잠재적인 조작 행위도 금지합니다. 로페즈는 도박 중독자를 부추기는 챗봇이나 아이들이 위험한 도전에 참여하도록 유도하는 AI 장난감 등을 예로 들었습니다.

동시에 이 법안은 생체 데이터를 기반으로 사람을 분류하고, 행동이나 개인적 특성을 평가하여 혜택을 제공하거나 범죄 위험을 예측하는 데 AI를 사용하는 것을 금지합니다. 그러나 정부는 국가 안보를 이유로 공공장소에서 실시간 생체 인식 감시를 ​​시행할 수 있습니다.

새로운 규칙의 시행은 스페인의 AI 감시 기관(AESIA)에서 담당하지만, 데이터 개인정보 보호, 범죄, 선거, 신용 등급, 보험 등 특정 분야는 전담 기관에서 감독합니다.

스페인은 자발적 준수와 주별 규제에 크게 의존하는 미국 방식과는 달리 포괄적인 AI 규제를 시행한 최초의 EU 국가 중 하나입니다. 로페즈 씨는 가짜 콘텐츠가 점점 더 정교해짐에 따라 누구든 딥페이크의 희생자가 될 수 있다고 경고했습니다.

Ngoc Anh (로이터, Westlaw Today에 따르면)

출처: https://www.congluan.vn/tay-ban-nha-cac-cong-ty-bi-phat-nang-neu-khong-dan-nhan-noi-dung-ai-post338114.html