AI가 쓴 과학 논문 수십만 편 발견

bài báo khoa học - Ảnh 1. — 매년 수십만 건의 과학 논문에서 연구의 일부 또는 전부에 AI가 사용되는 것으로 나타났습니다. - 사진: NREL

튀빙겐 대학(독일) 연구진이 실시하고 Science Advances 저널에 게재된 연구에서는 ChatGPT와 같은 대규모 언어 모델(LLM)에서 일반적으로 사용되는 "garnered", "encompassing", "burgeoning" 등 약 454개의 단어를 식별했습니다.

이 분석을 PubMed 데이터베이스(매년 약 150만 건의 과학 논문을 저장)에 적용한 결과, 논문 초록의 13.5%~40%가 인공지능(AI)에 의해 생성되었을 가능성이 높다고 추정했습니다.

뉴욕 타임스 에 따르면 이는 매년 최소 20만 건의 기사에 AI의 흔적이 담겨 있다는 것을 의미합니다. 또한 이 수치는 대략적인 추정치일 수 있으며, 작성자가 AI의 출처를 숨기기 위해 편집한 사례는 고려하지 않았다고 덧붙였습니다.

일부 저자는 AI를 사용한다는 사실을 숨기려 하지만, 아예 신경 쓰지 않는 저자도 있습니다.

애리조나 주립 대학의 컴퓨터 과학자 수바라오 캄밤파티는 소셜 미디어 X에 엉터리 방사선학 논문을 공유했는데, 그 논문의 "저자"는 해당 논문이 챗봇이 만든 것이라는 고백을 빼먹었습니다.

게시물에는 "죄송하지만 저는 AI 언어 모델이기 때문에 실시간 정보나 특정 환자 데이터에 접근할 수 없습니다."라는 내용이 적혀 있었습니다.

"regenerate response"(ChatGPT가 응답을 재생성할 때 사용한 문구)와 같은 더 미묘한 오류도 많은 평판 있는 학술지에 스며들었습니다. 어떤 논문은 완전히 조작된 참고 문헌이나 AI가 생성한 터무니없는 이미지를 포함하고 있기도 합니다.

이러한 현실에 직면하여 많은 연구자들은 AI 사용 의혹을 피하기 위해 논문을 수정하고 있습니다. 예를 들어, "AI가 작성했다"는 딱지가 쉽게 붙을 수 있는 단어를 삭제하는 등의 조치를 취하고 있습니다. 이러한 은폐가 더욱 정교해질수록 그 결과는 엄청날 것입니다.

연구팀은 "이런 상황이 계속된다면 생물의학 연구 분야의 과학적 글쓰기에 전례 없는 영향을 미칠 수 있으며, 심지어 COVID-19 팬데믹의 영향을 능가할 수도 있다"고 밝혔습니다.

"연구 초록을 쓰는 것처럼 중요한 일이라면 AI가 대신 해줘서는 안 된다고 생각합니다."라고 저널 Science Advances 에 실린 연구의 공동 저자인 드미트리 코박은 말했습니다.

주제로 돌아가기

하다오

출처: https://tuoitre.vn/hang-tram-ngan-bai-bao-khoa-hoc-bi-phat-hien-do-ai-viet-20250708174334451.htm