인공지능의 어두운 면 제어

질문: 인공지능(AI) 모델이란 무엇이고, 오늘날 인기 있는 모델 유형은 무엇입니까?

답변: AI가 작동하려면 AI 모델이라는 "두뇌"가 필요합니다. AI 모델은 방대한 양의 데이터를 기반으로 훈련된 수학적 모델과 알고리즘으로 구성된 시스템입니다. 바로 이 모델을 통해 기계는 규칙을 학습하고, 정보를 분석하고, 예측을 하고, 새로운 콘텐츠를 생성할 수 있습니다.

현재 AI 모델은 입력과 출력을 기준으로 여러 그룹으로 나눌 수 있습니다. 현재 가장 널리 사용되는 그룹은 텍스트-투-텍스트(T2T) 그룹으로, 사용자가 텍스트를 입력하면 AI가 적절한 응답 텍스트를 생성합니다(ChatGPT, Gemini, Claude 등의 챗봇). 텍스트-투-이미지(T2I) 그룹은 텍스트 설명으로 입력을 처리하고, AI가 생성한 이미지로 출력을 처리하는 그룹입니다(Midjourney, DALL·E 등).

다음은 텍스트를 음성이나 음향 효과로 변환하는 텍스트-오디오 그룹입니다. 이미지-텍스트 그룹은 이미지를 입력으로 사용하여 AI가 설명이나 분석을 생성할 수 있도록 합니다. 이미지-이미지 그룹은 이미지를 다른 이미지로 변환하는데, 복원이나 스타일 변환과 같은 작업에 자주 사용됩니다. 이미지- 비디오 그룹은 AI가 정지 이미지를 기반으로 시뮬레이션된 모션 비디오를 생성합니다. 비디오-텍스트 그룹은 비디오의 콘텐츠를 분석하거나 요약할 수 있게 해주며, 정보 추출 시스템, 비디오 주석 또는 감시 데이터 분석에 적용됩니다.

오늘날 특히 강력한 기능 중 하나는 텍스트를 비디오로 변환하는 T2V(텍스트-비디오)입니다. 이러한 모델을 사용하면 사용자가 간단한 설명만 입력하면 AI 시스템이 맥락, 동작, 조명, 심지어 카메라 각도까지 고려하여 비디오를 생성합니다.

Pika Labs, Sora(OpenAI)와 같은 유명 툴, 그리고 최근 베트남을 비롯한 글로벌 기술 커뮤니티는 구글 딥마인드가 개발한 툴인 Veo 3에 특별한 관심을 보이고 있습니다. Veo 3로 제작된 영상은 거의 완벽하게 사실적이며, 전문 영상 제작자 수준에 근접하여 많은 사람들의 감탄을 자아냅니다.

영상 제작이 한 단락을 쓰는 것만큼 쉬워지면서, 단순히 관심을 끌기 위해 제작된 선정적 영상, 저속한 언어 사용, 허위 정보 등 수많은 "쓰레기" 콘텐츠가 등장하게 되었습니다. 더욱 위험한 것은 Veo 3와 같은 도구가 전문 딥페이크 도구는 아니지만, 정교한 가짜 이미지나 실제 사람의 목소리를 만들어 시청자를 쉽게 속이고 개인의 명예, 정보 보안, 사회 질서를 훼손하며 사이버 공간에서 사기 위험을 증가시킬 수 있다는 것입니다. (딥페이크는 AI를 적용하여 사용자가 구분하기 어려울 정도로 실제처럼 보이는 가짜 이미지, 영상, 소리를 만드는 기술입니다.)

더욱 우려스러운 것은, 왜곡되고 허위적인 콘텐츠가 엄청난 속도로 제작되고 유포되어 검증이나 통제 없이 소셜 네트워크 전반에 퍼져나가고 있다는 점입니다. 가장 쉽게 접하고 취약한 대상은 진실과 거짓을 구분하는 능력이 부족한 어린이와 청소년입니다. 이들은 유해 콘텐츠에 매우 쉽게 노출되어 인식과 행동에 장기적인 영향을 미칩니다.

질문: Veo 3와 같은 도구의 급속한 발전을 고려할 때, 부적절한 목적으로 AI를 사용하는 것을 효과적으로 제한할 수 있는 솔루션은 무엇일까요?

답변: 현재의 관리 및 법률 체계가 AI 기술의 발전 속도에 비해 여전히 미흡하여 많은 법적 공백과 예측 불가능한 위험을 야기하고 있음을 알 수 있습니다. 따라서 선제적이고 유연하며 동시적인 관리 체계를 조기에 구축하는 동시에 AI의 책임 있는 사용에 대한 대중의 인식을 제고해야 합니다.

AI의 책임 있는 개발은 주로 AI를 만들고, 관리하고, 사용하는 우리, 즉 AI를 만드는 사람들에게 달려 있습니다. 혁신과 관리라는 개념은 대립하는 두 축이 아니라, 이미 여러 번 언급된 과정의 양면으로 이해되어야 합니다. 따라서 한편으로는 기술 개발을 장려하는 데 열린 자세를 가져야 하며, 다른 한편으로는 새로운 맥락에 적합한 윤리 원칙과 법적 체계를 적극적으로 구축해야 합니다.

베트남에서는 제도 개선을 지속하는 것 외에도 최근 베트남 소프트웨어 및 정보기술 서비스 협회(VINASA) 산하 AI 윤리위원회가 개발자와 사용자 모두의 행동 제한을 정하는 AI 윤리 행동 강령을 수립하자는 제안 등 여러 가지 해결책이 거론되고 있습니다.

이와 함께 베트남의 정치적 요인, 문화적, 법적, 역사적 맥락을 준수할 수 있는 기반을 국내외 AI 개발자에게 제공하기 위해 국가 표준 오픈 데이터 언어 세트를 형성한다는 아이디어도 있습니다.

AI 제품에 대한 분류 및 라벨링 제안 또한 실현 가능한 아이디어입니다. AI 라벨링은 의무화되어야 하며, 부분 편집부터 전체 제작까지 다양한 개입 수준에 따라 분류될 수 있습니다. 또한 게임과 영화에서 이미 시행되고 있는 것처럼 콘텐츠별로 분류될 수도 있습니다.

이와 함께 명확한 사후 감사 메커니즘을 구축하고, 최종 책임 소재를 명확히 하는 것이 중요합니다. 사회적 관점에서는 특히 어린이와 청소년을 포함한 모든 계층을 대상으로 디지털 리터러시 교육을 실시하는 것이 필수적입니다. 유해 콘텐츠를 식별하는 능력을 함양하고, 정보 검증 규칙을 실천하는 것은 가상 콘텐츠로 인해 점점 더 혼란스러워지는 사회에서 근본적인 해결책입니다.

광휘

출처: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html