잘못된 정보를 퍼뜨리는 데에는 잠재적인 위험이 있습니다.
과학과 기술은 언론과 미디어가 메시지를 전달하는 방식에 영향을 미칠 뿐만 아니라, 대중의 접근 방식과 효과에 영향을 미치고 영향을 미칠 뿐만 아니라 정보의 질에도 깊은 영향을 미칩니다.
실제로 저널리즘은 특히 최근 몇 년 동안 기술 혁신에 빠르게 적응해 왔습니다. 인공지능(AI)은 대중 매체와 통신사 보도국에서 점차 대중화되고 있습니다. AI의 적용은 기자와 언론사 모두에게 이점을 가져다주었습니다. AI는 기자들이 지루하고 반복적인 업무에서 벗어나 시간을 절약하고 더욱 창의적이고 고도로 숙련된 업무에 집중할 수 있도록 도와줍니다.
AI는 많은 이점을 제공하지만, 몇 가지 우려 사항도 제기합니다. 가장 심각한 위험 중 하나는 AI가 생성한 콘텐츠가 잘못된 정보를 확산시킬 가능성입니다.
세계 10대 통신사는 미디어 매체와 AI 개발자 간의 집단적이고 투명한 협상을 요구하고 있습니다. 이는 저작권이 있는 자료를 AI 도구의 훈련에 사용할 수 있는지 통제하고 AI 알고리즘의 편견을 없애기 위한 것입니다.
지난주, 세계 유수의 언론사 10곳이 AI를 대상으로 투명성과 명확한 저작권법을 요구하는 서한에 서명했습니다. 언론사들은 AI가 뉴스의 질과 진실성에 대한 독자의 신뢰를 심각하게 훼손함으로써 "미디어 생태계의 지속가능성을 위협할" 가능성이 있다고 주장했습니다.
많은 연구에 따르면, AI는 독자의 관심을 끌고 참여를 유도할 가능성이 가장 높은 기사를 걸러내고 선택하는 데 활용될 수 있으며, 이는 인간이 객관적으로 기사를 작성했다면 존재하지 않았을 뉴스의 불균형을 야기합니다. 대중은 기사의 한쪽 면에만 노출되기 때문에 AI가 생성한 일방적인 정보에 현혹될 수 있습니다. 더 나아가, AI는 실제 기사와 함께 조작된 기사를 제시함으로써 대중에게 잘못된 정보와 가짜 뉴스를 유포하는 데 활용될 수 있습니다.
AI는 가짜 뉴스에 속을 수도 있습니다. AI 알고리즘은 데이터를 빠르고 정확하게 처리하도록 설계되어 있어 진짜 뉴스와 가짜 뉴스를 구분하기 어렵습니다. 더 나아가, AI는 자신이 처리하는 뉴스의 감정적, 도덕적 함의를 이해하지 못합니다. AI가 더욱 발전할수록 가짜 뉴스에 대한 취약성은 더욱 커질 것이며, 이는 진짜와 가짜를 구분하기 더욱 어렵게 만들 것입니다.
저널리즘·커뮤니케이션 아카데미 국제관계학과장 응우옌 응옥 오안 부교수에 따르면, AI가 강력해지는 시점은 악당과 적대 세력이 AI를 이용하여 유해하고 가짜 뉴스를 유포할 위험에 대비하여 특별한 주의를 기울이고 선제적으로 대응해야 할 시점입니다. 미디어 보안 관점에서 이는 잘못된 정보, 왜곡, 그리고 가짜 뉴스의 잠재적 위험을 보여줍니다. 인공지능이 정보 분야에 적용되면, 특히 소셜 네트워크에서 대중을 속이기 위해 가짜 목소리, 이미지, 가짜 기사, 그리고 진짜처럼 보이는 진술을 만들어낼 수 있습니다.
"악의를 가진 자들은 언론의 역할과 평판을 악용하여 정보를 조작하고, 언론이 제공하고 반영하는 정보가 진실이라고 대중을 속입니다. 가짜 뉴스의 발전은 더욱 정교하고 복잡해질 것이므로, 경계를 강화하는 것과 함께 가짜 뉴스를 식별, 대응 및 처리하는 방법은 스마트 기술에 투자하고 체계적으로 처리하는 데 중점을 두어야 합니다. 사회 관리 및 언론사 관리 역량은 변화에 적응하기 위해 개선되어야 합니다."라고 응우옌 응옥 오안 부교수 는 말했습니다.
뉴스 산업은 창의적인 콘텐츠를 보호할 방법을 찾아야 합니다.
2022년 11월 ChatGPT 출시 이후, 생성 AI 기반 새로운 애플리케이션이 거의 매일 배포되었습니다. 그 결과, 인터넷은 AI가 생성한 콘텐츠로 가득 찼습니다. 놀라운 콘텐츠도 있지만, 평범하고 반복적인 콘텐츠도 많습니다. 이로 인해 잘못된 정보가 확산되기가 더 쉬워지고, 미디어 업계는 독자와의 신뢰를 구축하고 회복해야 하는 부담이 더 커집니다.
베트남플러스 신문 부편집장인 응우옌 호앙 낫 기자는 과거 많은 전문가들이 언론의 초기 큰 실수 중 하나가 소셜 네트워크의 중요성과 침투에 너무 느리게 대응한 것이라고 지적했던 경험을 회고했습니다. "우리는 오랫동안 제작하는 모든 콘텐츠를 소셜 네트워크에 올리고, 핵심적인 부분을 소셜 네트워크에 맞춰 바꿔왔습니다. 이는 때로는 우리의 강점도 아니고 독자의 필요도 아닙니다. 간단히 말해, 소셜 네트워크에 너무 많은 권한을 부여했고, 소셜 네트워크가 우리를 집어삼키는 결과를 초래했습니다."라고 응 우옌 호앙 낫 기자는 말했습니다.
베트남 여자 대표팀이 월드컵에 출전하던 시절, 소셜 미디어는 왜곡되고 조작된 정보를 퍼뜨리는 사람들로 가득했습니다. (사진: VTC)
AI로 인한 현재 위협에 대해 기자 응우옌 호앙 낫은 AI가 일반적으로 뉴스룸의 업무 처리 속도를 높이고 비용을 절감하는 데 도움이 되지만, 편집자와 기자의 관대함을 떨어뜨리고 허위 정보 확산을 가속화할 것이라고 말했습니다. "예를 들어, 최근 여자 월드컵 기간 동안 베트남 여자 대표팀에 대한 가짜 뉴스는 AI를 활용한 도구로 만들어진 밈을 통해 엄청난 '바이럴'을 기록했고, 이로 인해 일부 시청자의 전반적인 심리가 극도로 악화되었습니다."라고 기자 응우옌 호앙 낫은 예를 들어 설명했습니다.
해외에서 뉴스 가드(News Guard)는 놀라운 통계를 발견했습니다. 합법적인 뉴스 사이트처럼 보이는 347개의 뉴스 사이트가 AI가 생성한 콘텐츠로 가득 차 있고 허위 정보를 조장하고 있다는 것입니다. 매사추세츠 공과대학교(MIT)의 최근 연구에 따르면 사람들은 인간이 생성한 가짜 뉴스보다 AI가 생성한 허위 정보를 더 믿을 가능성이 높습니다.
기자 응우옌 호앙 낫에 따르면, 이러한 현실로 인해 뉴스 산업은 창의적 콘텐츠와 지적 재산권을 보호할 방법을 찾아야 하지만, AI가 가져다주는 편의성을 외면할 수는 없습니다.
뉴스의 진실성 확보에 따른 과제를 평가하며 응우옌 응옥 오안 부교수는 Chat GPT가 뛰어난 기능을 많이 갖추고 있지만, 결국 기자들이 숙달하고, 업무에 활용하여 직업 원칙에 따라 작품과 보도 자료를 제작하는 도구일 뿐이라고 말했습니다. 기자와 언론인이 부정확한 정보의 확산을 "돕지" 않으려면 정보 출처를 검증하는 것이 매우 중요합니다.
인공지능 관련 여러 세미나와 토론을 통해, 편집국의 콘텐츠 관리가 디지털 기술 의 발전을 따라가지 못할 경우, 가짜 데이터와 뉴스를 저널리즘 작업에 사용할 위험성이 매우 높다는 결론이 도출되었습니다. 베트남 디지털 저널리즘의 법적 기반이 아직 현실을 따라가지 못하는 상황에서, 법적 문제, 언론 보안 위협, 저작권 침해 소송, 그리고 자동화 저널리즘 도입 시 저널리즘 윤리와 사회적 책임에 대한 논란은 오늘날 주요 과제로 대두되고 있습니다.
판호아장
[광고_2]
원천
댓글 (0)