AI가 생성한 게시물이 감지되지 않았습니다.

인공지능(AI)이 생성한 제출물의 최대 94%가 교사에게 감지되지 않았습니다. 더 엄격한 기준을 적용하고 필터링 과정에서 "AI"라는 단어를 구체적으로 언급했음에도 불구하고 AI 제출물의 97%가 감지되지 않았습니다.

AI가 작성하는 숙제와 시험이 점점 더 많아지고 있으며, 학생들은 성적, 학점, 학위를 받기 위해 이를 제출하고 있습니다. - 사진: Pixabay

아무런 수정 없이 가장 기본적인 AI 코드를 사용한 학생은 반 친구들보다 더 높은 성적을 받을 확률이 83%인 반면, 교사가 AI 감지 소프트웨어를 사용하지 않았을 때는 단 6%의 확률로 적발되었습니다.

영국 연구팀이 발견한 내용입니다. 교사들은 챗봇이 만든 학술 자료를 전혀 감지하지 못하거나 아예 감지하지 못하는 것으로 나타났습니다. 레딩 대학교의 피터 스카프와 동료들이 발표한 논문은 연구자들이 가짜 학생 프로필을 만들고 교사들이 모르게 AI가 생성한 논문을 제출할 때 어떤 일이 발생하는지 살펴보았습니다.

교육 분야 는 ChatGPT 상장 이후 가장 심각하고 부정적인 영향을 받은 분야일 것입니다. 점점 더 많은 숙제와 시험이 AI에 의해 작성되고, 학생들이 이를 제출하여 성적, 학점, 학위를 받는 경우가 늘어나고 있습니다. 포브스 에 따르면, 학생들의 실생활 지식 부족은 심각한 결과를 초래할 수 있기 때문에 이는 심각한 문제입니다.

AI를 활용한 학업 부정행위 방지는 아직 대부분의 학교나 교육 기관에서 우선순위가 아닙니다. 일부 학교는 AI 탐지 기술에 투자하지 않음으로써 AI 활용을 더욱 용이하게 만들고 있습니다.

인간이 AI가 생성한 글을 독립적으로 감지할 수 없다는 경고가 나온 것은 이번이 처음이 아닙니다. 작년 사우스 플로리다 대학교의 한 연구에서는 언어학자들이 AI가 생성한 텍스트와 인간이 쓴 텍스트를 구분할 수 없다는 결론을 내렸습니다.

또 다른 연구에서는 AI 탐지 도구가 교사보다 훨씬 효과적이라는 사실이 밝혀졌습니다. 연구팀은 Turnitin AI 탐지 시스템이 논문의 91%를 AI가 생성한 콘텐츠로 정확하게 식별한 반면, 교사들은 논문의 54.5%만 "학업 부정행위의 잠재적 사례"로 보고했습니다.

연구 결과에 따르면, 인간에게 경고하지 않고 AI 탐지 도구를 사용하지 않았을 때 거의 모든 AI 생성 기사가 탐지되지 않았습니다. 더 심각한 것은 AI 생성 기사가 인간이 생성한 기사보다 더 높은 점수를 받았다는 것입니다.

학교나 교사가 탐지 기술을 갖추지 못했다면, AI를 활용한 부정행위는 거의 위험 부담 없이 학생들의 성적을 향상시킬 가능성이 높습니다. 온라인 강좌는 부정행위, 특히 AI 부정행위에 더 취약한데, 이는 교사가 학생들을 잘 알지 못하고 학생들의 학습 과정을 제대로 파악할 수 없기 때문입니다.

출처: https://tuoitre.vn/khong-phat-hien-bai-viet-do-ai-tao-ra-20250111215437798.htm