전문가들은 AI 챗봇이 최대 45%까지 오답을 내놓을 수 있다고 경고합니다.

전문가들은 ChatGPT와 같은 AI 생성 콘텐츠가 최대 45%의 확률로 잘못된 정보를 퍼뜨릴 수 있다고 경고하며, 사용자들은 이를 참고할 때 주의를 기울여야 한다고 강조합니다.

뉴질랜드 매시 대학교 인문학, 미디어 및 창의성 학부의 미디어 연구 선임 강사인 케빈 비엘은 생성형 인공지능(AI)이 입력받은 원시 정보를 기반으로 텍스트, 이미지 및 기타 데이터 형태를 생성하는 데 사용된다고 설명합니다.

하지만 AI 생성은 인간이 검증할 수 있는 속도보다 훨씬 빠르게 잘못된 정보를 만들어내는 도구가 될 수 있으며, 사용자가 이를 절대적으로 신뢰할 경우 현실 세계에 심각한 결과를 초래할 수 있습니다. ChatGPT나 Claude와 같은 대규모 언어 모델은 정확성을 보장하기보다는 인접한 단어들이 나타날 확률을 기반으로 그럴듯한 문장을 만들어내는 방식으로 작동합니다.

연구에 따르면 언어나 지역에 관계없이 AI가 생성한 허위 정보가 뉴스 기사의 최대 45%를 차지합니다. OpenAI는 또한 허위 정보가 "진실"로 둔갑하여 보도되는 것을 완전히 막을 방법은 없다는 점을 인정합니다.

연구자들은 이러한 모델을 어려운 질문에 직면한 학생에 비유하는데, 학생들은 확신이 없을 때 모른다고 인정하는 대신 추측을 하는 경향이 있다.

베일 씨는 사용자들에게 사전에 신뢰할 수 있는 자료를 참고하거나 전통적인 서적 및 문서를 활용할 것을 권고합니다. 전문가들은 특히 인공지능이 정부, 행정 기관 및 복잡한 조직의 업무에 점차 도입됨에 따라 인공지능의 신중한 사용을 위한 교육 과 규칙 제정의 필요성을 강조합니다.

본론으로 돌아가서

VNA

출처: https://tuoitre.vn/chatbot-ai-co-the-sai-toi-45-chuyen-gia-canh-bao-20260323211414635.htm