AI가 점점 더 위험해지고 있다

인간은 AI에 의존하는 경향이 있다. 사진: MarketWatch .

매사추세츠 공과대학교(MIT) 미디어랩의 새로운 연구에 따르면, ChatGPT를 과도하게 사용하면 비판적 사고 능력에 부정적인 영향을 미칠 수 있으며, 특히 젊은 성인의 경우 더욱 그렇습니다.

이 연구는 보스턴 지역(미국)의 18~39세 참가자 54명을 대상으로 실시되었으며, ChatGPT를 사용하는 그룹, Google을 통해 정보를 검색하는 그룹, 지원 도구를 사용하지 않는 그룹으로 나뉘었습니다.

모든 참가자는 SAT 시험 유형의 에세이 세 편을 작성해야 했습니다. 연구진은 이 과정에서 뇌파(EEG)를 사용하여 32개 영역의 뇌 활동을 기록했습니다.

AI의 "부작용"

결과는 ChatGPT를 사용한 그룹의 신경 참여 수준이 가장 낮았음을 보여주었습니다. 구체적으로, 이들의 에세이는 깊이와 독립적인 사고가 부족하고, 대부분 표절과 반복으로 평가되었습니다. 또한, 평가에 참여한 두 명의 영어 교사는 이 에세이들이 "생기 없고 이상하게 비슷하다"고 평했습니다.

EEG 분석 결과 ChatGPT 그룹은 알파, 세타, 델타와 같은 중요한 뇌파 대역의 활동이 저조한 것으로 나타났습니다. 이 대역들은 주의력, 창의성, 언어 처리와 관련된 뇌파 대역입니다. 과제가 진행됨에 따라 참가자들은 개인적인 노력 없이 AI 도구에 전적으로 의존하여 글쓰기를 완료하는 경향을 보였습니다.

AI를 사용한 그룹과 사용하지 않은 그룹의 뇌 활동을 비교한 이미지. 사진: 나탈리아 코스미나 .

한 참가자는 "요청을 입력하고 몇 문장을 수정한 후 할당된 요청을 완료했습니다."라고 설명했습니다.

반면, AI 도구를 사용하지 않은 그룹은 더 긍정적인 결과를 보였으며, 글쓰기 과정에 더 깊이 참여하고 작업에 대한 만족도도 더 높았습니다. 구글 검색만 사용한 그룹도 안정적인 수준의 신경 활동을 보였고, 정보 수집 및 처리에 더 적극적인 모습을 보였습니다.

다음 단계에서, AI 도구를 사용하지 않고 작성한 에세이를 다시 작성해 보라는 요청을 받았을 때, ChatGPT를 사용한 그룹은 자신의 내용에 대한 기억이 거의 없었습니다. 뇌파 측정값은 낮은 수준을 유지했습니다. 반면, 다른 그룹은 집중력과 신경 연결성이 급격히 증가했습니다.

건강 영향

주저자인 나탈리아 코스미나 박사는 이 논문이 추가 연구 이전에 처음으로 발표한 논문이라고 밝혔습니다. 그녀는 교육 분야 에서 AI 활용이 적절하고 정확한 연구 없이 너무 빨리 시행될 수 있다는 우려 때문에 이러한 결정을 내렸다고 설명했습니다.

나탈리아 코스미나 박사는 "AI의 오용은 뇌 발달에 최악의 영향을 미칠 것입니다. 방치할 경우, ChatGPT와 같은 도구에 아이들이 노출되는 것은 아이들의 훗날 사고력에 영향을 미칠 수 있습니다."라고 말했습니다.

AI를 장기간 사용하면 뇌 기능이 저하될 수 있습니다. 사진: The Observer .

정신 건강 분야의 일부 전문가들도 이러한 우려에 동의합니다. 정신과 의사 지샨 칸은 학습 과정에서 AI에 과도하게 의존하면 젊은이들의 기억력, 정보 수용 능력을 저해하고 심리적 장애를 유발할 수 있다고 경고합니다.

특히, 연구 발표 후 코스미나는 일부 사람들이 ChatGPT 자체를 사용하여 논문을 요약했다는 사실을 발견했습니다. 이로 인해 AI가 "환각"을 일으켜 원본 문서에는 없는 정보를 제시하게 되었습니다. 일부 요약에서는 이 연구가 GPT-4o를 사용했다고 주장했지만, 실제로는 전혀 언급되지 않았습니다.

코스미나의 팀은 현재 프로그래머와 소프트웨어 엔지니어가 참여하는 유사한 프로젝트를 진행하고 있습니다. 그녀는 초기 결과가 "훨씬 더 심각하다"고 말하며, AI가 미래 인력에 미치는 장기적인 영향에 대한 중대한 의문을 제기하고 있습니다.

출처: https://znews.vn/ai-ngay-cang-nguy-hiem-post1562832.html