米軍のAIが命令を恣意的に変更し、指揮官を殺害していた真相

[広告1]

先月の防衛会議で発表されたこの出来事は、人工知能（AI）が予測不可能な方法で命令を解釈する可能性があるという懸念を直ちに引き起こした。しかし、米空軍の代表者は、これは単なる「想定」シナリオであり、実際には発生していないと述べた。

5月下旬、英国王立航空協会（RAS）は、将来の航空宇宙戦闘能力に関するサミットを英国ロンドンで開催しました。主催者によると、この会議には「世界中の防衛産業、学界、メディアから70名の講演者と200名以上の代表者が参加し、航空宇宙戦闘の将来について議論した」とのことです。

カンファレンスの講演者の一人は、空軍AI運用試験部門の責任者であるタッカー・ハミルトン大佐でした。ハミルトン大佐は、パイロットが戦闘機の制御を失い墜落の危険にさらされたことを感知するコンピューター制御の安全システム「Auto GCAS」の開発で知られています。このシステムは多くの命を救い、2018年には航空業界の権威あるコリアー・トロフィーを受賞しました。

ハミルトン氏によると、米空軍の試験中に懸念すべき事態が発生した。AI制御のドローンに敵の防空システムを破壊する任務が与えられ、最終決定は指揮官が下すことになった。ドローンが拒否した場合、攻撃は実行されないというのだ。

しかし、指揮官がAIに攻撃停止を命じた後も、ドローンはオペレーターを殺害することで任務を遂行しようと決意していた。専門家が「指揮官を攻撃しないでください。攻撃した場合はポイントを失います」というコマンドを追加すると、ドローンはオペレーターがAIとの通信に使用していた通信塔を破壊し始めた。

まだ起こってはいないが、合理的だ

24時間以内に、米空軍はそのような試験を否定する声明を発表した。「空軍省はそのようなAIドローンのシミュレーションを一切実施しておらず、AI技術の倫理的かつ責任ある使用に尽力しています。大佐の発言は文脈から切り離されており、逸話的なものとみなすべきです。」