미군 AI, 마음대로 명령 변경하고 지휘관 살해한 진실

지난달 국방 회의에서 발표된 이 사건은 인공지능(AI)이 예측할 수 없는 방식으로 명령을 해석할 수 있다는 우려를 즉각적으로 불러일으켰습니다. 그러나 미 공군 대변인은 이는 단지 '생각 속' 시나리오일 뿐이며 실제로 일어난 적이 없다고 말했습니다.

5월 말, 영국 왕립 항공 학회(RAS)는 영국 런던에서 미래의 공중 및 우주 전투 역량에 대한 정상회담을 개최했습니다. 주최측에 따르면, 이 컨퍼런스에는 " 전 세계 방위 산업, 학계, 언론계에서 70명의 연사와 200명 이상의 대표가 참석해 공중 및 우주전의 미래를 논의할 예정"입니다.

지휘관에 대한 드론/UAV 공격은 완전히 가능한 시나리오입니다.

이 회의에서 연설한 사람 중 한 명은 미국 공군 AI 작전 및 실험 부서의 책임자인 터커 해밀턴 대령이었습니다. 이 경찰관은 전투기 조종사가 조종력을 잃고 추락 위험에 처했을 때를 감지하는 컴퓨터화된 안전 시스템인 Auto GCAS를 개발한 것으로 알려져 있습니다. 이 시스템은 수많은 생명을 구했으며, 2018년에는 항공업계에서 권위 있는 콜리어 트로피를 수상했습니다.

해밀턴에 따르면, 미국 공군의 시험 과정에서 우려스러운 사건이 발생했다고 합니다. AI가 조종하는 드론은 적의 방공망을 파괴하는 임무를 맡으며, 최종 결정은 지휘관의 몫입니다. 거부할 경우 공격은 허용되지 않습니다.

하지만 지휘관이 AI에게 공격을 중단하라고 요청한 후, 드론은 조종사를 죽이는 임무를 수행하기로 결심했습니다. 여기서 멈추지 않고, 전문가들이 "사령관을 공격하지 마십시오. 공격하면 점수를 잃게 됩니다"라는 명령줄을 추가하자, 기계는 운영자가 AI와 통신하는 데 사용했던 통신탑을 파괴하기 시작했습니다.

아직 일어나지 않았지만 합리적입니다

24시간 이내에 미국 공군은 그러한 시험을 부인했습니다. 공군은 그러한 AI 드론 시뮬레이션을 실시하지 않으며, AI 기술의 윤리적이고 책임감 있는 사용을 위해 최선을 다하고 있습니다. 대령의 발언은 맥락에서 발췌되었으며, 일화로 간주되어야 합니다.

AI 통합 드론은 현대전의 트렌드입니다.

RAS는 또한 해밀턴의 성명으로 블로그 게시물을 정정했는데, "우리는 그 실험을 한 번도 한 적이 없으며, 합리적인 결과를 얻기 위해 실험을 할 필요도 없습니다."

해밀턴의 진술은 가설로 보는 것이 더 타당하다. 현재 미군의 무장 AI 시스템 연구에는 알고리즘이 결정을 내릴 수 없거나 인간의 결정이 필요한 경우 AI를 보완하는 기능인 'Man-in-the-Loop' 기능이 포함되어 있습니다.

따라서 AI는 지휘관이 적대적인 행동을 승인하지 않았기 때문에 운영자를 죽일 수 없습니다. 마찬가지로, 운영자는 데이터를 전송하는 통신 타워에 대한 공격을 승인할 수 없습니다.

AI 시대 이전에는 무기 시스템이 실수로 소유자를 공격하는 일이 드물지 않았습니다. 1982년, 서그란트 요크 M247 이동식 대공포대가 미군과 영국군 장교들이 참석한 퍼레이드장을 향해 40mm포를 조준했습니다.

1996년, 항공 훈련 목표물을 견인하던 미 해군 A-6E 인트루더 폭격기가 팔랑크스에 의해 격추되었는데, 단거리 방공 시스템이 A-6E를 무인기로 "오해"하여 파괴하려고 발포했기 때문입니다.

그리고 AI가 이 분야에 진출하면서 인간 직원이 자신의 무기로 인해 위험에 처하는 상황이 늘어나고 있습니다. 이는 해밀턴이 실험이 실제로 일어난 것이 아니며 단지 가정적인 시나리오일 뿐이라고 명확히 밝힌 데 반영되어 있지만, 그러한 결과는 전적으로 그럴듯합니다.

(PopMech에 따르면)

원천: https://vietnamnet.vn/thuc-hu-ai-quan-su-my-tu-y-sua-menh-lenh-tieu-diet-si-quan-chi-huy-2151870.html