人工知能：より強力なものを開発することに焦点を当てるのではなく、安全性を高める必要がある

画像.jpg

VinFuture 2025 科学技術週間の枠組み内で開催されるパネルディスカッション「人類のための AI: 新時代の AI 倫理と安全性」では、科学者、政治家、発明家が一堂に会し、人道的価値観に向けた責任ある AI 開発について議論します。

自分よりも賢い存在であるAIとどう共存していくかを早急に考えよう

セミナーで講演したオーストラリア・ニューサウスウェールズ大学のトビー・ウォルシュ教授（アメリカコンピュータ協会会員）は、「AIの責任ある利用は義務化されるべきだと強く信じています。今日ではAIによって巨額の利益が生み出されるなど、不当なインセンティブが蔓延しており、適切な行動を確保する唯一の方法は、公共の利益と商業的利益のバランスが常に取れるよう、厳格な規制を適用することです」と断言しました。

彼は、米国における判決や量刑といった重要な決定における典型的な例を挙げ、AIシステムが刑期や再犯の可能性に関する推奨を行う例を挙げた。しかし残念なことに、このシステムは過去のデータに基づいて学習されていたため、過去の人種的偏見を意図せず反映し、黒人に対する差別につながってしまった。

トビー・ウォルシュ教授、オーストラリア、ニューサウスウェールズ大学、アメリカコンピュータ協会会員。

したがって、AI システムを導入および運用する企業は、これらの「マシン」が引き起こす結果に対して責任を負わなければなりません。

VF 2024の主要賞を受賞したジェフリー・ヒントン教授は、AIが危険なウイルスの設計、サイバー攻撃、選挙を妨害するための偽動画の作成において徐々に巧妙化していることを懸念しています。今後20年間で、AIは人間よりも賢くなり、人間がAIに支配されることを防ぐ方法が分からなくなるでしょう。

そのため、この教授は次のように強調しました。「私たちは、自分たちよりも賢い存在とどのように共存していくかを早急に考える必要があります。これは人類がこれまでに直面したことのない、新しい状況であり、そうなる前に多くの研究努力を払う必要があります。」

AIリスクを制限するために国際協力を強化する必要がある

この懸念を共有し、VinFuture 2024の主要賞を受賞したヨシュア・ベンジオ教授は、AIモデル、その能力、そして自律性のレベルは依然として急速かつ着実に発展していると述べました。この傾向が続けば、自律型AIシステムはわずか5～10年以内に、ほとんどの認知タスクにおいて人間を上回る能力を発揮する可能性があります。

これは私たちの生活の質を劇的に向上させる歴史的な転換点となるでしょう。しかし、慎重に対処しなければ、民主主義、地政学的安定、そして人類の未来にさえ大きなリスクをもたらす可能性があります。

「高度なAIの強化に注力するのではなく、安全性を高めなければなりません。安全性と信頼性は副次的な要素ではなく、人類の利益に向けた開発プロセスにおいて不可欠な要素です。私たちは政策レベルと科学レベルの両面で協力して取り組む必要があります」と彼は述べた。

ヨシュア・ベンジオ教授 - VinFuture 2024 最優秀賞受賞者。

この科学者は、政策面では世界が国際協力する必要があると提言しています。科学面では、優れた能力を持ちながらも人間に無害なAIをどのように設計するか、人間が間違った行動を指示した場合でもAIが安全に行動できるよう制御する能力を維持すること、そしてAIが人間の規範、意図、価値観、そして利益と整合するように技術的・社会的な障壁を構築することについて、より深く理解する必要があります。

ヴィントン・グレイ・サート博士（Google副社長兼インターネット伝道部長、VF 2022グランプリ受賞者）も同意見です。「AIに責任を負わせ、AIが何をいつ、特に何か問題が発生した場合に、その行動を把握するための証拠管理体制を確立する必要があります。人間に適用される原則の多くは、オンライン環境におけるAIエージェントにも当てはまります。」

「同時に、強力な身分証明書の活用、情報保護のための暗号化、説明責任を確保するメカニズムの適用、そして他者による個人情報の乗っ取り防止といった、新たな規範を確立する必要があります。こうした規範が日常的な習慣となるよう、テクノロジーを活用してリスクを最初から抑制し、地域社会や社会に害を及ぼす行為が判明した者は、その行為の責任を負わなければならないことを明確にすべきです。そのためには国際協力が必要です」と彼は述べた。

ベトナムはAIデータの構築において独自の道筋を持つ必要がある。

南洋理工大学（シンガポール）およびヴィンユニ大学（ベトナム）のルー・アン・トゥアン准教授は、他国は約10年分のデータセットを保有しているが、ベトナムはゼロからのスタートだと述べた。そのため、最初から持続可能なデータを構築し、クリーンで倫理的、そして文化的に適切なデータを提供できると述べた。

しかし、ベトナムにとって最大の課題は、ベトナム語の特殊性です。多様な方言体系、豊かな地域文化、そして非常に複雑な呼称形態を有しています。ChatGPTやGeminiといった大手モデルはベトナム語に対応していますが、ベトナム語の方言、習慣、歴史を理解していないため、質は高くありません。

ベトナムは独自のベトナムモデルを構築する必要があります。さらに、中小企業が利用し、貢献できるオープンソースモデルを開発する必要があります。「『ブラックボックス』のような外国のモデルに頼るだけでは、私たちはAIのユーザーであり、AIの開発者にはなれません」と彼は述べました。

現在、ルー・アン・トゥアン准教授とその同僚たちはベトナム語のAIデータを構築しており、方言、歴史、文化といった要素を重点的に考慮する必要がある。

彼はまた、海外では学生に非常に早い段階でAI教育が行われていると述べ、ベトナムはこれを始めたばかりだが、学習と適切な調整によって加速させることができると語った。

「ベトナムの若者は非常に活力に満ちています。彼らにはデジタル責任について十分な教育を施す必要があります。データの品質と倫理基準を確認し、標準化するための統一機関が必要です。VinUniも倫理基準システム構築のための協議会に参加しており、このプロセスに引き続き貢献していきます」と彼は述べた。