AI를 이용해 가짜 뉴스를 생산하는 웹사이트 수백 개 발견

[광고_1]

오해의 소지가 있는 AI 콘텐츠에는 조작된 사실, 의학적 조언, 유명인의 사망에 대한 거짓말 등이 포함되어 있으며, 이 기술로 인해 온라인 허위 정보 문제가 악화될 수 있다는 새로운 우려가 제기되었습니다.

AI를 이용해 가짜 뉴스를 만드는 웹사이트 수백 개 발견 (이미지 1) — AI를 이용해 가짜 뉴스를 유포하는 웹사이트에 대한 우려가 현실이 되었습니다. 일러스트 사진: GI

두 보고서는 온라인 허위 정보를 추적하는 회사인 NewsGuard와 디지털 조사를 위한 리소스와 교육을 제공하는 회사인 ShadowDragon이 각각 별도로 발표했습니다.

뉴스가드(NewsGuard)의 CEO 스티븐 브릴은 성명을 통해 "독자들은 뉴스 매체에 대한 불신이 점점 커지고 있는데, 그 이유 중 하나는 신뢰할 수 있는 매체와 신뢰할 수 없는 매체를 구분하지 못하기 때문입니다."라고 밝혔습니다. "AI 기반 웹사이트의 새로운 물결은 독자들이 누가 뉴스를 제공하는지 알기 어렵게 만들고, 이로 인해 신뢰도가 더욱 떨어질 것입니다."

NewsGuard는 뉴스부터 라이프스타일 정보까지 10개 언어로 게시되고 AI 도구를 사용하여 전적으로 또는 주로 작성된 콘텐츠를 갖춘 125개 웹사이트를 파악했습니다.

NewsGuard에 따르면, 이 사이트에는 의학적 조언을 제공하는 AI 생성 기사 50개 이상이 게시된 건강 포털이 포함되어 있습니다.

NewsGuard는 해당 사이트에 광고가 넘쳐나는 경우가 잦다고 밝혔는데, 이는 사이트 소유자를 위해 '클릭베이트' 광고를 하기 위해 허위 콘텐츠를 만든 것이라고 합니다. 사이트 소유자는 종종 익명을 유지했습니다.

ShadowDragon은 인스타그램과 아마존 리뷰를 포함한 웹사이트와 소셜 미디어에서 허위 콘텐츠를 발견했습니다. 또한, 회사는 ChatGPT 또는 기타 AI 도구를 사용하여 사진과 동영상 에 설명을 작성하는 것으로 보이는 여러 인스타그램 계정을 지적했습니다.

연구진은 사례를 찾기 위해 AI 도구가 종종 생성하는 노골적인 허위 정보와 틀에 박힌 답변을 살폈습니다. 일부 사이트는 허위 정보나 유해 콘텐츠가 포함된 기사를 작성하라는 요청을 받은 후 AI 콘텐츠 경고를 통해 생성된 정보를 삭제하지 않았습니다.

ShadowDragon은 구직 소셜 네트워크인 LinkedIn, Twitter 게시물, 그리고 다른 여러 소셜 네트워크에서 이러한 메시지를 발견했습니다. 일부 Twitter 게시물은 ReplyGPT와 같이 사용자 댓글에 자동으로 응답하는 봇에 의해 게시되었습니다.

호앙 하이 (NewsGuard, NYT에 따르면)

[광고_2]
원천