実際、科学者たちが人工知能の人類に対する潜在的な危険性について警告したのは今回が初めてではない。2014年、著名な英国の理論物理学者スティーブン・ホーキング博士は、「人工知能が完全に発達すれば、人類は滅亡する可能性がある」と述べた。また、この危険な技術の研究開発に慎重な対応を取らなければ、500年以内に人類は人工知能に完全に取って代わられるだろうと予測した。8年前の2015年7月には、スティーブン・ホーキング博士、イーロン・マスク氏、ノーム・チョムスキー氏など、1000人以上の人工知能技術の専門家が、 軍事AI分野における軍拡競争のリスクについて警告し、自律型兵器（AIと致死性兵器を組み合わせたもの）の全面禁止を求める請願書に署名した。2022年11月にOpenAIがChat GPTアプリケーションをリリースしたことで、人工知能の潜在的な危険性について、さらに警鐘が鳴らされた。実際、Chat GPTの行動は、AIがかつて人々が考えていたよりもはるかに危険なものになりつつあることを示している。
人工知能の潜在的なリスクは、その使用方法によって大きく異なります。当初、AIは人間の仕事、特に画像分類や情報レビューといった単調で反復的な作業を支援するために開発されました。しかし、近年のAIの急速な発展に伴い、 科学者や技術専門家は、AIが無秩序に開発されたり、誤った目的でプログラムされたりした場合、人類と社会に深刻な影響を与える可能性があると懸念しています。
不安のリスク
人工知能は国家安全保障と個人の安全に対する脅威となる可能性がある。イーロン・マスク氏は、AIが戦争において恐るべきツールになり得ると警告している。ある国が優れた人工知能システムを開発できれば、それを他国への攻撃に利用する可能性がある。カリフォルニア大学のコンピュータ科学教授で、数十年にわたり人工知能の研究に携わってきたスチュアート・ラッセル教授は、AIがもたらす安全保障上の脅威について警告し、既存の技術を統合・小型化することで自律型兵器を製造できるようになったと述べている。
スチュアート・ラッセル教授と未来生命研究所（FLI）が実施したこの実験では、カメラ、センサー、画像処理ソフトウェア、顔認識機能、3グラムの爆薬、そして人間の脳の100倍の速さでデータ分析と反応を可能にする高速マイクロプロセッサを搭載した、微細な飛行装置である「スローターボット」が使用された。スローターボットは、プログラムされたパラメータに従ってクラウドデータに継続的にアクセスし、標的に関する情報を検索して接近方法を見つける。標的が見つかると、高速で標的に向かって突進し、3グラムの爆薬を爆発させ、頭蓋骨の奥深くまで貫通して犠牲者を即死させる。
それは、AIの最も単純なレベルでの実験に過ぎませんでした。AIがより高度な攻撃手法の開発に利用されるようになれば、攻撃者の攻撃能力が向上し、従来の攻撃よりも深刻な結果を招く可能性があります。AIが変化する環境に対応するために自ら判断を下したり、代替の標的を独自に探索したり、攻撃対象の範囲を拡大したりできるレベルにまで発展すれば、人類はもはや安全ではなくなるかもしれません。この分野の多くの同僚はスチュアート・ラッセル教授の意見に賛同し、そのような暗い未来を防ぐチャンスはまだあると信じていますが、私たちに残された時間はあまりありません。
リスクは、AIが組織化され、自律的に行動し、システムを制御するようになることだ。
AIは、機械学習によって設計ミスや不適切な「学習」が行われると、人間や環境に害を及ぼす意図しない行動につながる可能性があります。例えば、機械学習によってAIはますます高度化しています。AIが電力、交通、 医療、金融といった重要なシステムを支えるレベルに達すると、これらのシステム全体を制御・操作し、緊急事態において自ら意思決定を行い、実行できるようになります。しかし、AIに悪意が「付与」された場合（設計ミス）、信号機を無効にしたり、都市鉄道への電力供給を遮断したりして交通システムを混乱させ、連鎖的な事故や広範囲にわたる停電を引き起こすなど、深刻な結果を招く可能性があります。
ハリウッド映画や海外映画の多くはこのシナリオを基にしている。しかし、現在のAI技術では、これはもはや遠い未来の話ではなく、十分にあり得る話だ。イーロン・マスク氏は、AIが人間の介入なしに意思決定を自動化できるほど無制限に発展すれば、人類の生存を脅かす可能性があると考えている。そのため、彼は何千人もの技術専門家とともに、透明性のある方法でAI開発を中止し、厳しく管理することを求める書簡に署名した。イーロン・マスク氏によれば、人工知能システムは複雑で理解しにくく、制御するのは非常に困難だ。透明性がなければ、人類に害を及ぼす非倫理的な目的で人工知能が利用されることは避けられない。
失業のリスク、プライバシー権の侵害。
人工知能技術は、個人情報を収集する際に、プライバシーの侵害、偽情報キャンペーンの実施、社会秩序や政治的安定に影響を与える誤情報の拡散に悪用される可能性があります。米国人事管理局（OPM）ネットワークへのハッキングは、現職および退職した米国職員2150万人の詳細かつ機密性の高い個人データ（配偶者の情報、健康状態、居住地、職業、指紋、財務情報などの政府職員採用応募データを含む）が漏洩したため、どの国や組織にとっても重大な懸念事項です。しかし、 CIAがOPMデータ窃盗犯が人工知能を使用して個人情報を偽造し、仮想エージェントを作成してデータを盗んでいたことを発見したとき、さらに憂慮すべき事実が明らかになりました。盗まれた情報は、ビッグデータ技術を使用して分析、分類、特定の目的に悪用されます。人工知能は、人間がこれほど膨大な量の情報を短時間で処理できないため、情報窃盗犯がデータを悪用するのにかかる時間を短縮するのに役立ちます。
前述の固有の危険性に加えて、AI技術は、過度の依存による状況制御の喪失や意思決定能力の低下といった他のリスクも生み出します。また、人工知能は、特に知識の少ない純粋な肉体労働において、数百万、あるいは数億もの人々の失業を引き起こすでしょう。その結果、失業、犯罪、貧富の格差といった深刻な社会問題がさらに顕著になるでしょう。さらに、信頼性も重要な問題です。医療や刑事司法といった高度に専門化された分野における意思決定の信頼性は極めて重要です。これらの分野で意思決定を支援するためにAIを使用する場合、技術の信頼性が不十分であったり、特定の個人やグループに有利なデータに基づいて動作したり、意図的に歪められたりすると、その意思決定は深刻な結果を招く可能性があります。
これを防ぐにはどうすればよいでしょうか？
前述のリスクこそが、イーロン・マスク氏や技術専門家がAIの制御不能な発展を懸念し、国連や国際機関に対し、AI開発を厳しく管理し、安全性と倫理を確保すること、そしてAI技術が人類と社会にとって有益な形で利用されるよう国際協力を強化することを求める書簡を送った理由である。具体的な対策としては、以下のようなものが挙げられ得る。
- システムの信頼性管理：AIは、厳格かつ頻繁で継続的な品質管理、監視、監督方法を通じて安全性と信頼性を確保するように設計および開発される必要があり、AIシステムが人間の意図どおりに動作し、信頼性の欠如による望ましくない影響を回避する必要があります。
人工知能（AI）技術は、倫理的価値観と社会規範に従って動作するようにプログラムされる必要があります。これらの規制と基準は明確に確立され、監視されなければならず、AIが人や組織に害を及ぼしたり、不利益をもたらしたりすることがないようにする必要があります。また、AIシステムのパフォーマンスを分析、影響評価、監視するプロセスも定期的に実施し、AIが倫理的に動作し、社会の共通価値を侵害したり損なったりせず、悪影響を及ぼさず、知識と価値の正確な伝達を保証する必要があります。
    |
| ジャーナリズムは、人工知能の影響を最も大きく受ける業界の一つです。将来的には、ラジオ番組に画面外のプレゼンターは不要になり、テレビ番組ではバーチャルプレゼンターが主流となるでしょう。 |
人工知能システムの「トレーニング」を少なくとも6か月間一時的に停止し、問題全体を再評価する。この一時停止は公開され、管理され、トレーニングに関わるすべての主要な利害関係者が従わなければならない。必要であれば、政府は一時的な禁止措置を講じるべきである。これはAI開発の完全な停止を意味するのではなく、AIシステムをより正確、安全、理解しやすく、透明性があり、関連性があり、信頼性が高く、忠実にする他の開発モデルへの移行という危険な競争を一時的に停止するにすぎない。これはイーロン・マスク氏とその同僚が公開書簡で提唱した包括的な解決策だが、その実現可能性は低い。すべての独立した研究所が、このような拘束力のない国際的な要請に従うことは非常に困難である。
各国間および独立したAI研究機関間の協力と情報共有を強化することは、将来的にAIが安全に開発・利用されることを保証する上で極めて重要である。また、協力と情報共有は、新たなリスクに対するタイムリーな警告と予防を可能にする。
一般的に、AIはすでに私たちの身の回りのあらゆる場所に存在しており、人工知能が詩や音楽、記事を書くといった話はもはやSFではなく現実のものとなっています。この記事の著者も、執筆作業を円滑かつ迅速に進めるために、パソコンやスマートフォンに搭載されたAI技術を活用しました。具体的には、冒頭の段落（シャポー）やいくつかのアイデアはAIによって提案され、さらに驚くべきことに、この記事で使用されている画像はすべてAIによって作成されました。人工知能技術は人間の仕事や生活の質を向上させる上で非常に有用ですが、理論物理学者スティーブン・ホーキング博士が予言したように、制御不能になり将来的に人間にとって代替物となることを防ぐためには、厳格な管理が必要です。
文と写真：フー・ズオンソース
コメント (0)