중국, AI에 대한 주목할 만한 경고 발표, 전장에서 여전히 결정적 요소는 인간이라고 밝혀

중국 인민해방군(PLA)은 최근 인공지능(AI)이 전장에서 결정을 내리는 데 있어 인간을 대체할 수 없을 것이라고 경고했습니다.

AI의 블랙박스 특성으로 인해 발생하는 오류를 방지하는 최종 결정권은 인간 지휘관에게 있습니다. (출처: Shutterstock)

2024년 12월 31일자 인민해방군보 에 실린 기사에서는 "AI는 인간을 대체하기보다는 증강시켜 명령 효율성을 최적화하기 위해 의사결정권자와 협력해야 한다"고 나와 있습니다.

기사에 따르면, AI는 데이터 분석, 시뮬레이션 또는 계획을 통해 인간의 역량을 증강하는 데 활용될 수 있지만, 인간의 역할을 대체할 수는 없다고 합니다.

기사는 "AI가 발전함에 따라, AI는 인간의 판단에 따라 움직이는 도구로 남아 책임을 보장한다. 창의성과 전략적 적응력은 군사적 의사 결정의 최우선 과제로 남아 있다"고 논평했다.

기사에 따르면, 인간의 자율성과 창의성은 전장에서 필수적인 요소입니다. 지휘 역할을 하는 인간은 상황에 역동적으로 대응하고 적의 약점을 악용할 수 있는 반면, AI는 미리 정해진 알고리즘의 경계 내에서 작동하며, 기술의 대응은 종종 독창성이 부족합니다.

PLA는 "인간이 계획하고 AI가 실행"하는 모델을 제안했는데, 이는 지휘관이 개발한 전략과 전술을 실행하는 데 기술을 사용하면서도 인간의 감독 요소를 유지하는 것입니다.

그러나 "AI의 블랙박스 특성으로 인해 발생할 수 있는 오류를 방지하기 위한 최종 결정권은 인간 지휘관에게 있습니다."

PLA는 기술의 또 다른 약점은 상황에 따라 유연하게 대응하여 계획을 조정할 수 있는 인간 지휘관과 달리 내린 결정에 대한 책임을 질 수 없다는 점이라고 생각합니다.

해당 기사에서는 자동 미사일 방어 시스템과 같은 첨단 장비조차도 책임을 보장하기 위해 최종 결정을 내리는 데 종종 인간 운영자에게 의존한다고 밝혔습니다.

중국은 군대에서 AI 사용을 규제해야 한다는 강력한 주장을 펼치고 있으며, 이전에 유엔에 이 주제에 대한 문서를 제출하면서 "기술에 대한 인간의 통제"가 필요하다고 강조했습니다.

중국국가주석 시진핑은 기술 통제의 필요성을 강조했으며, 2개월 전 페루에서 조 바이든 미국 대통령과 가진 가장 최근 회담에서 두 강대국은 "AI가 아닌 인간이 핵무기를 어떻게 사용할지 결정해야 한다"는 데 동의했습니다.

지난달 발간된 중국 군사에 대한 미 국방부의 최신 연례 보고서에 따르면, 중국 인민해방군은 2030년까지 '알고리즘 전쟁'과 '네트워크 중심 전쟁'을 목표로 인간과 기계의 협업을 추진하고 있다고 합니다.

보고서는 중국 인민해방군이 자율주행차, 예측 정비, 자동 표적 인식, 잠수함 드론에 상당한 투자를 하고 있다고 지적합니다. 동시에 중국 인민해방군은 드론, 이미지 인식, 지능형 의사 결정 등 분야에서 민간 AI 도입을 검토하고 있습니다.

미국 또한 이 기술을 활용하고자 합니다. 지난달, 국방부 디지털 및 AI 책임자인 라다 플럼은 이 기술을 전투 작전에 통합하는 계획의 세부 내용을 공개하며, 이를 "실시간 전투원 요구를 지원하기 위해 첨단 AI를 배치하는 최초의 주요 노력"이라고 설명했습니다.

그녀는 미국이 중국, 러시아, 이란, 북한 등의 "적대국"으로부터 이 기술을 획득하는 것이 "급격히 진행되고 있으며 국가 안보에 심각한 위험을 초래하고 있다"고 경고했습니다.

원천: https://baoquocte.vn/trung-quoc-ra-canh-bao-dang-chu-y-ve-ai-noi-con-nguoi-van-la-yeu-to-quyet-dinh-tren-chien-truong-299525.html