「AIはなぜ危険なのか？」

[広告_1]

実は、人工知能が人類にとって危険となる可能性について科学者が警告を発したのは今回が初めてではない。2014年、著名な英国の理論物理学者スティーブン・ホーキングは「人工知能の包括的な発展は人類を滅ぼす可能性がある」と述べた。彼はまた、この危険な技術の研究開発プロセスにおいて注意を払わなければ、今後500年以内に人類は人工知能に完全に置き換えられるだろうとも述べている。8年前の2015年7月には、スティーブン・ホーキング、イーロン・マスク、ノーム・チョムスキーなど、1,000人以上の人工知能技術の専門家が、軍事AI分野における軍拡競争の危険性を警告し、自律型兵器の全面的禁止を求める嘆願書に署名した。OpenAIが2022年11月にChat GPTを立ち上げたことは、人工知能の存在そのものの危険性に新たな警鐘を鳴らすものとなった。実際、Chat GPTの成果は、AIがある程度、人々がかつて考えていたよりもはるかに危険であることを示しています。

人工知能の潜在的なリスクは、その使用方法によって異なります。AIは当初、人間の仕事、特に画像分類や情報レビューといった単調で反復的な作業を支援するために開発されました。しかし、近年のAIの急速な発展に伴い、科学者や技術専門家は、制御不能な状態で開発されたり、誤った目的でプログラムされたりした場合、人工知能が人間と社会に深刻な影響を及ぼす可能性があると懸念しています。

不安のリスク

人工知能（AI）は国家安全保障と個人の安全にとって脅威となる可能性がある。イーロン・マスク氏は、AIが戦争において恐ろしい武器となる可能性があると警告している。優れた人工知能システムを開発できれば、他国への攻撃に利用される可能性がある。カリフォルニア大学のコンピュータサイエンス教授、スチュアート・ラッセル氏は、数十年にわたり人工知能の研究に携わってきた。AIがもたらす安全保障上の脅威について警告するとともに、ラッセル氏は、既存の技術を統合・小型化することで、自律型攻撃兵器を開発できる可能性があると述べた。

この実験は、スチュアート・ラッセル教授とFuture of Life Institute（FLI）が殺人ロボット（スローターボット）を用いて行った。殺人ロボットは、カメラ、センサー、画像処理ソフトウェア、顔認識、3グラムの爆薬、高速マイクロプロセッサを備えた超小型飛行装置で、人間の脳の100倍の速さでデータ分析と反応が可能だ。プログラミングパラメータに従って、殺人ロボットはクラウドデータに継続的にアクセスして標的に関する情報を検索し、接近方法を見つける。標的を発見すると、高速で一直線に突進し、3グラムの爆薬を起動して頭蓋骨の奥深くまで穴を開け、瞬く間に犠牲者を殺害する。

これはAIの最も基本的なレベルでの実験に過ぎません。AIが新たな、より高度な攻撃手法の開発に利用されれば、攻撃者の攻撃能力も向上し、従来の攻撃よりも深刻な結果をもたらす可能性があります。AIが自ら判断し、周囲の環境の変化に対応したり、別の標的を探したり、攻撃範囲を拡大したりできるようになると、人類はもはや安全ではなくなるかもしれません。この分野の多くの同僚は、スチュアート・ラッセル教授の意見に賛同し、そのような暗い未来を防ぐチャンスはまだあると考えていますが、残された時間は実際にはそれほど多くありません。

AIが組織化され、自律的になり、システムを制御するリスク

AIは、誤って設計された場合や、機械学習によって不適切に「トレーニング」された場合、望ましくない行動を実行し、人や環境に損害を与える可能性があります。具体的な例は次のとおりです。機械学習により、AIはますますインテリジェントになっています。人工知能が、電力、交通、医療、金融などの重要なシステムをサポートするレベルに達すると、これらすべてのシステムを習得して制御し、緊急時に決定を下して実行できます。AIに追加の「野心的な」目的（誤った設計）が「装備」されると、信号システムを無効にしたり、都市の電車の運行システムへの電源を遮断して交通システムを混乱させたり、一連の事故を引き起こしたり、広範囲にわたる停電を引き起こしたりするなど、多くの深刻な結果を引き起こす可能性があります。

このシナリオは、ハリウッド映画や海外映画で数多く制作されてきました。しかし、現在のAI技術では、もはや遠い未来の話ではなく、現実になり得るのです。イーロン・マスク氏は、AIが制御不能な進化を遂げ、人間の介入なしに意思決定を自動化するようになれば、人類の生存を脅かす可能性があると考えています。そのため、マスク氏をはじめとする数千人の技術専門家は、AI開発プロセスの一時停止と、透明性のある厳格な管理を求める書簡に署名しました。イーロン・マスク氏によると、人工知能システムは非常に複雑で理解が難しく、制御も非常に困難です。透明性がなければ、人工知能が非倫理的な目的で使用され、人類に損害を与えることは確実に起こるでしょう。

失業やプライバシー侵害のリスク

個人情報の収集に人工知能技術が利用されると、プライバシーの侵害、偽情報活動、社会・政治の安定に影響を与える虚偽情報の拡散に利用される可能性があります。米国政府の人事管理局（OPM）ネットワークシステムがハッカーの攻撃を受けた事件は、現職および退職した米国政府職員2,150万人の詳細かつ機密性の高い個人情報、配偶者情報、政府職への応募者の健康状態、居住地、職業、指紋、財務情報などがハッカーの手に渡ったため、どの国や組織にとっても注目すべき出来事でした。しかし、OPMのデータ窃盗犯が人工知能技術を用いて個人情報をスキャン、偽造し、仮想スパイを作成してデータを窃盗していたことをCIAが発見したことは、さらに恐ろしい現実です。窃盗された情報は、ビッグデータ技術によって分析、分類され、特定の目的のために活用されます。人間はこれほど膨大な量の情報を短時間で処理できないため、人工知能技術は情報窃盗犯が情報を利用する時間を短縮するのに役立ちます。

前述の既存の危険性に加えて、AI技術は次のような他のリスクも生み出します。AIへの過度の依存は、人々が状況を制御できなくなり、意思決定能力を低下させるという結果につながります。また、人工知能は、特に知識内容の少ない純粋な肉体労働の仕事において、数百万人、数億人の人々の職を失う原因にもなります。その結果、失業、犯罪、貧富の差など、深刻な社会問題が深刻化するでしょう。さらに、信頼性も言及する必要がある問題です。医学、刑法など、高度に専門化された分野における意思決定の信頼性は極めて重要です。テクノロジーの信頼性が十分でなかったり、個人またはグループに有利になる傾向のあるデータに基づいていたり、意図的に歪められたデータに基づいていたりする分野で、AIを使用して意思決定を支援すると、深刻な結果を引き起こす可能性があります。

どうやって防ぐのか？

上記のリスクこそが、イーロン・マスク氏や技術専門家がAIの無制限な発展を懸念し、国連や国際機関に対し、AI開発における厳格な管理、安全性と倫理性の確保、そしてAI技術が人類と社会にとって有益な形で活用されるよう国際協力の強化を求める書簡を送った理由です。具体的な対策としては、以下のようなものが挙げられます。

- システムの信頼性の制御: AI は、AI システムが人間の期待どおりに動作し、信頼性の欠如による望ましくない影響を回避するために、厳格で定期的かつ継続的な品質テスト、制御、および監視方法を通じて安全性と信頼性を確保するように設計および開発する必要があります。

人工知能技術は、倫理的価値観と社会規範に従って動作するようにプログラムされる必要があります。これらの規則と基準は明確に確立され、人々や組織に悪影響や危害を及ぼさないよう監視されなければなりません。また、AIシステムの運用を分析、影響評価、監視するプロセスを定期的に実施し、AIシステムが適切に動作し、社会全体の共通価値観を侵害・侵食せず、悪影響を及ぼさず、正しい知識と価値観の伝達を確実に行えるようにする必要があります。

ジャーナリズムは、人工知能の影響を大きく受ける業界の一つです。将来的には、ラジオ番組でオフを読み上げるMCは不要になり、テレビ番組ではバーチャルMCがオンを読み上げる時代が到来するでしょう。

AIシステムの「トレーニング」を少なくとも6ヶ月間一時停止し、全面的な再評価を行う。この一時停止は公開され、管理され、トレーニングに関わるすべての主要関係者が参加する必要がある。必要に応じて、政府は一時的なモラトリアムを課すべきである。これはAI開発の完全な停止を意味するのではなく、他の開発モデルとの危険な競争を一時停止し、AIシステムをより正確で安全、理解しやすく、透明性が高く、一貫性があり、信頼性が高く、忠実なものにすることを意味する。これは、イーロン・マスク氏とその同僚が公開書簡で呼びかけている包括的な解決策だが、実現可能性は低い。すべての独立系研究所が、このような拘束力のない国境を越えた要請に従うことは非常に困難である。

- 将来的にAIが安全に開発・利用されるよう、各国及び独立したAI研究機関間の協力と情報共有を強化する。協力と情報共有は、将来発生しうるリスクを迅速に警告し、予防するための手段でもある。

一般的に、AIは私たちの周りのあらゆる場所に存在しており、人工知能が詩を書いたり、音楽を作曲したり、記事を書いたりするといった話はもはやフィクションではなく現実のものとなっています。この記事の著者自身も、コンピューターやスマートフォンの人工知能技術を活用し、執筆プロセスをより便利で迅速にしています。具体的には、この記事の章立てやいくつかのアイデアはAIによって提案されており、さらに具体的には、この記事で使用されているすべての写真はAIによって作成されています。人工知能技術は人間の仕事と生活の質を向上させるのに非常に役立ちますが、理論物理学者のスティーブン・ホーキング博士が予測したように、将来的に制御不能になり、人間に取って代わる危険性がないように、厳密に管理する必要があります。

文と写真：HUU DUONG

[広告2]
ソース