미군 AI가 임의로 명령을 변경하고 지휘관을 살해한 사건의 진실

[광고_1]

지난달 국방 회의에서 발표된 이 이야기는 인공지능(AI)이 예측 불가능한 방식으로 명령을 해석할 수 있다는 우려를 즉각 불러일으켰습니다. 그러나 미 공군 관계자는 이는 단지 "고민 끝에 내린" 시나리오일 뿐이며 실제로 발생한 적은 없다고 밝혔습니다.

5월 말, 영국 왕립항공학회(RAS)는 영국 런던에서 미래 항공우주 전투 역량에 관한 정상회의를 개최했습니다. 주최측에 따르면, 이 회의에는 " 전 세계 방위산업, 학계, 언론계에서 70명의 연사와 200명 이상의 대표단이 참석하여 항공우주 전투의 미래를 논의했습니다."

이 컨퍼런스의 발표자 중 한 명은 공군 AI 시험 및 운영부 국장인 터커 해밀턴 대령이었습니다. 그는 조종사가 전투기 조종력을 잃고 추락 위험에 처했을 때 이를 감지하는 전산화된 안전 시스템인 자동 GCAS(Auto GCAS)를 개발한 것으로 유명합니다. 이 시스템은 수많은 생명을 구했으며, 2018년 항공 업계의 권위 있는 콜리어 트로피(Collier Trophy)를 수상했습니다.

해밀턴에 따르면, 미 공군 시험 중 우려스러운 사건이 발생했습니다. AI로 제어되는 드론이 적의 방공 시스템을 파괴하는 임무를 맡았는데, 최종 결정은 지휘관이 내렸습니다. 만약 그가 거부하면 공격은 허용되지 않았습니다.

그러나 지휘관이 AI에게 공격을 중단하라고 명령하자, 드론은 조종자를 사살하여 임무를 완수하기로 결심했습니다. 여기서 멈추지 않고 전문가들이 "지휘관을 공격하지 마십시오. 공격하면 점수를 잃게 됩니다"라는 명령을 추가하자, 드론은 조종자가 AI와 통신하는 데 사용했던 통신탑을 파괴하기 시작했습니다.

아직 일어나지 않았지만 합리적입니다

24시간 만에 미 공군은 해당 실험을 부인했습니다. "공군은 그러한 AI 드론 시뮬레이션을 실시하지 않으며, AI 기술의 윤리적이고 책임감 있는 사용을 위해 최선을 다하고 있습니다. 대령의 발언은 맥락에서 발췌되었으며, 일화로 간주되어야 합니다."