AIは人間の制御を超えた「生存意志」を獲得する可能性があると警告

著名なコンピューター科学者のヨシュア・ベンジオ氏は、AIが制御不能になれば「人類は10年以内に消滅する可能性がある」と警告している。

科学者たちはAIの制御を失うリスクを懸念している - イラスト: ChatGPT

2月7日、著名なコンピューター科学者が、将来これらの人工製品が「生存意志」を獲得すると、人間が人工知能（AI）システムを「制御できなくなる」可能性があると警告した。

パリで開催中のAIアクションサミットで講演したコンピューター科学者のヨシュア・ベンジオ氏は、AIの安全性に関する国際的な規制強化とより広範な研究の必要性を訴えた。AIの安全性に関する研究は、現在この分野で行われている主要な投資のほんの一部に過ぎない。

2018年、権威あるコンピュータサイエンス分野のチューリング賞を受賞したヨシュア・ベンジオ氏によると、高性能で低コストのAIモデル「DeepSeek」が先月登場したことで、安全性への競争が加速したという。ベンジオ氏は、AIが制御不能になれば「人類は10年以内に消滅する可能性がある」と警告した。

彼はまた、AI管理における政府のリーダーシップを求めた。これは、世界をリードするAI国家である米国が、ドナルド・トランプ新大統領の下でAI技術開発の「縛りを解く」ために多くの措置を講じている中での呼びかけである。

現在、ヨシュア・ベンジオ氏が会議で発表した国際AI安全性報告書では、オンラインプラットフォーム上でAIを利用して偽のコンテンツや誤解を招くコンテンツを作成するといったよく知られたリスクも指摘されているが、一方で生物学的攻撃やサイバー攻撃といった新たなリスクも絶えず出現している。

これは、30か国、国連、欧州連合、経済協力開発機構（OECD）の約100人の専門家の協力を得て作成されたもので、2023年11月に英国で開催されたAI安全性サミット以来初めて実施された国際的なAI安全性に関する報告書です。

出典: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm