安価な資源となるリスクを回避するためにベトナムは何をすべきでしょうか?

人工知能（AI）の爆発的な増加は人類に大きな利益をもたらす一方で、人種的偏見、巧妙なオンライン詐欺、発展途上国が安価な「データ鉱山」と化すリスクなど、数え切れないほどの影響も引き起こしている。

このような現実を踏まえると、AIの責任ある利用は任意とすべきでしょうか、それとも義務とすべきでしょうか？ベトナムはこの分野における法的枠組みの構築にあたり、何をすべきでしょうか？

VinFuture 科学技術週間のイベントの傍らで、記者はアメリカコンピューター協会会員のトビー・ウォルシュ教授（ニューサウスウェールズ大学、オーストラリア）と会話を交わした。

同教授は、「機械」に責任を負わせることから、ハイテク詐欺の波から家族が身を守るためのヒントまで、私たちが AI に対してどのように「行動」するかについての洞察を提供しています。

AIの責任者は誰ですか?

教授、AIの責任ある利用は自主的なものでしょうか、それとも義務的なものでしょうか？そして、私たちはAIに対して実際にどのように振る舞うべきでしょうか？

AIの責任ある利用は義務化されるべきだと強く信じています。AIで巨額の利益が生み出されるという歪んだインセンティブが働いており、適切な行動を確保する唯一の方法は、公共の利益と商業的利益のバランスが常に取れるよう、厳格な規制を課すことです。

AIがミスを犯した場合、誰が責任を負うのでしょうか？特にAIエージェントの場合、その動作メカニズムを修正する能力は私たちにはあるのでしょうか？

AIが間違いを犯すことの根本的な問題は、AIに責任を負わせることができないことです。AIは人間ではありません。これは世界中のあらゆる法制度の欠陥です。AIの判断と行動に責任を負えるのは人間だけです。

安価な資源になるリスクを回避するためにベトナムは何をすべきか？ - 1

突然、AI という新たな「エージェント」が登場しました。AI は、許可すれば私たちの世界で意思決定を行い、行動を起こすことができますが、これは誰に責任を負わせるかという課題を提起します。

答えは、AI システムを導入および運用する企業は、これらの「マシン」が引き起こす結果に対して責任を負わなければならないということです。

多くの企業が責任あるAIについて語っています。どうすれば彼らを信頼できるのでしょうか？彼らが真剣かつ包括的に取り組んでいるのか、それとも「責任あるAI」を単なるマーケティングの策略に利用しているだけではないのか、どうすればわかるのでしょうか？

-透明性を高める必要があります。AIシステムの能力と限界を理解することが重要です。また、「行動による投票」、つまり責任あるサービス利用を選択することも重要です。

企業が AI を責任を持ってどのように活用するかが市場での差別化要因となり、商業的優位性をもたらすと私は確信しています。

企業が顧客データを尊重すれば、顧客は利益を得て惹きつけられます。企業は、正しい行動をとることが倫理的であるだけでなく、成功にもつながることに気づくでしょう。私はこれを企業間の差別化の手段だと考えています。責任ある企業こそが、私たちが安心して取引できる企業なのです。

ベトナムは文化的価値を積極的に保護する必要がある。

ベトナムは、人工知能（AI）に関する法律の制定を検討している数少ない国の一つです。これについてどのように評価されますか？ベトナムのような発展途上国にとって、AI開発における倫理と安全性に関する課題は何でしょうか？

ベトナムが人工知能に関する専門法を制定する先駆的な国の一つとなることを大変嬉しく思います。これは重要なことです。なぜなら、各国には独自の価値観と文化があり、それらを守るための法律が必要だからです。

ベトナムの価値観や文化は、オーストラリア、中国、アメリカとは異なります。中国やアメリカのテクノロジー企業がベトナムの文化や言語を自動的に保護してくれるとは期待できません。ベトナムはこれらの保護に積極的に取り組む必要があります。

過去に多くの発展途上国が物理的な植民地化の時代を経験してきたことを私は心に留めています。注意を怠れば、「デジタル植民地化」の時代を迎えることになりかねません。あなたのデータは搾取され、あなたは安価な資源と化してしまうでしょう。

発展途上国が自国の利益を管理・保護することなく、データのみを搾取する形で AI 産業を発展させると、これは危険にさらされます。

では、この状況をどう克服すればいいのでしょうか?

-シンプルです。人材に投資しましょう。スキルアップを図り、AIを理解できるようにしましょう。起業家、AI企業、大学を支援しましょう。積極的に行動しましょう。他国からの技術移転や指導を待つのではなく、自ら積極的に行動し、技術を習得しなければなりません。

安価な資源になるリスクを回避するためにベトナムは何をすべきか？ - 2

トビー・ウォルシュ教授がVinFuture科学技術週間で講演（写真：組織委員会）

第二に、ベトナムの民主主義に影響を与えずに、ソーシャルメディアプラットフォームがベトナムのユーザーにとって安全な環境を作り出すよう強く主張する必要があります。

実際、ソーシャルメディアのコンテンツが選挙結果に影響を与えたり、国を分裂させたり、さらにはテロを誘発したりした例は数多くあります。

私は40年間人工知能（AI）の研究に携わってきました。最初の30年間は、AIをより強力にする方法に関心を寄せていました。ここ10年間は、AIを責任ある形で開発することへの関心が高まり、声を上げてきました。

ベトナムでは人工知能に関する法律を起草中ですが、何かアドバイスをいただけますか？

-新たな法律が必要ない場合も数多くあります。プライバシー法や競争法は既に存在します。これらの既存の法律は、現実世界と同様にデジタル空間にも適用されます。

物理的な環境と同様に、デジタル環境でもこれらの法律を厳格に施行することが重要です。

しかし、新たなリスクもいくつか現れ始めており、私たちはそれを目の当たりにし始めています。人々はAIと関係を築き始め、AIをセラピストとして利用し始めており、それが時にユーザーに危害を及ぼすこともあるため、注意が必要です。

メーカーは製品をリリースする際に常に責任を負います。例えば、AI企業が人間に危害を加えるAI製品をリリースした場合、その企業も責任を負うべきです。

では、AIが子供たちに有害な影響を与えるのを防ぎ、AIが登場したときに子供たちにとって安全な環境を作るにはどうすればよいのでしょうか?

-私たちはソーシャルメディアから多くの教訓を学んでいないと思います。多くの国々が、ソーシャルメディアには大きな利点がある一方で、多くのデメリットも存在し、特に若者、特に少女のメンタルヘルス、不安レベル、そしてボディイメージへの影響が大きいことに気づき始めています。

多くの国では、この問題への対策が既に始まっています。オーストラリアでは、ソーシャルメディアの利用年齢制限が12月10日から施行されます。AIについても同様の対策が必要だと思います。

私たちは、プラスの影響を与える可能性のあるツールを開発していますが、同時に害を及ぼす可能性もあります。私たちは、子どもたちの心と精神をこうしたマイナスの影響から守る必要があります。

さらに、各国がソーシャルネットワークを管理するための厳格な規制を発令し、AIを利用するすべての人にとって真に安全な環境が構築されることを願っています。

実際、子供だけでなく大人もAI自体がもたらすリスクに直面しています。では、どうすればAIを危険にさらすことなく、生活を向上させることができるのでしょうか？

- AIは多くの分野で応用され、私たちの生活の質の向上に貢献しています。医療分野では、AIは新薬の発見に貢献し、教育分野でも多くのプラスの効果をもたらします。

しかし、適切な安全対策なしにAIへのアクセスを許可するのはあまりにもリスクが高い。米国では、AIチャットボットとのやり取りをきっかけに子どもが自殺に追い込まれたとして、親がテクノロジー企業を訴えた訴訟が起こされている。

ChatGPT のユーザーのうち、精神的な健康問題を経験している人の割合は数パーセントに過ぎませんが、ユーザー数は数億人であり、実際の数は数十万人に上ります。

AI開発においてデータは非常に重要ですが、管理の観点から見ると、データ管理が厳格すぎるとAI開発の妨げになります。データ管理を緩めることでどのような危険性が生じるとお考えですか？データ収集、安全なデータ管理とAI開発のバランスをどのように取れば良いでしょうか？

全く同感です。データはAIの進歩の中核を成しています。なぜなら、 AIの推進力はデータにあるからです。データがなければ、私たちは何の進歩も遂げられません。高品質なデータは、私たちのあらゆる活動の中核を成しています。実際、企業が得る商業的価値と競争優位性は、データから生まれます。質の高いデータがあるかどうか、それが重要な問題なのです。

世界中の作家たちの作品――私の作品も含め――が、無許可で無償で利用されているのを見るのは、本当に腹立たしいことです。これは他人の労働の成果を盗む行為です。このような状況が続けば、作家たちは本を書く意欲を失い、私たちが大切にしている文化的価値も失われてしまうでしょう。

私たちは今よりも公平な解決策を見つける必要があります。

現在、「シリコンバレー」は著者からコンテンツと創造性を無償で奪っています。これは持続不可能です。私は現在の状況を、2000年代のNapsterとオンライン音楽の黎明期に例えています。当時、オンライン音楽はすべて「盗まれた」ものでしたが、ミュージシャンが創作活動を続けるためには収入が必要だったため、この状況は永遠に続くはずがありませんでした。

最後に、SpotifyやApple Musicのような有料ストリーミングシステム、あるいは広告付きの音楽配信システムがあり、収益の一部がアーティストに還元されます。書籍についても同様の取り組みを行い、著者がデータから価値を得られるよう努める必要があります。そうでなければ、誰も本を書く意欲を失い、新しい本が生まれなければ世界はもっと悪い状況に陥ってしまうでしょう。

安価な資源になるリスクを回避するためにベトナムは何をすべきか？ - 3

VinFuture科学技術週間の枠組み内で、展示会「Toa V - 科学のタッチポイント」もVincom Royal City Contemporary Art Centerで開催されます（写真：組織委員会）。

ベトナムではAIが非常に発展しています。近年、ベトナムはAI推進のための政策を数多く打ち出していますが、AIによる不正行為という問題にも直面しています。教授は、ベトナムはこの状況にどのように対処すべきだとお考えですか？また、現在AIを利用している方々が安全を確保し、データを保護するために、どのようなアドバイスをされますか？

-個人の場合、最も簡単な方法は情報を確認することだと思います。例えば、銀行などから電話やメールを受け取った場合、再度確認する必要があります。加入者番号に折り返し電話をかけたり、銀行に直接連絡して情報を確認したりすることができます。

最近は偽メール、偽電話番号、さらには偽のZoom通話が蔓延しています。こうした詐欺はシンプルで費用もかからず、時間もかかりません。

私の家族には、独自のセキュリティ対策があります。それは、ペットのウサギの名前など、家族だけが知っている「秘密の質問」です。これにより、重要な情報が家族内でのみ共有され、外部に漏れることがないようにしています。

ベトナムでは一般教育の中にAI教育も取り入れられていますが、その過程ではどのような点に留意すべきでしょうか。

- AIは、教える内容と教え方を変えます。批判的思考力、コミュニケーション能力、社会性、感情的知性といった、未来の重要なスキルに影響を与えます。これらのスキルは不可欠となるでしょう。

AI は、たとえば個人教師や個人学習アシスタントとしてこれらのスキルの指導を支援でき、AI アプリケーションを通じて非常に効果的な教育ツールを提供します。

私たちのチャットに時間を割いていただいた教授に感謝します!

出典: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm