ディープフェイク動画を作成するための人工ツールへのアクセスが極めて限られていた以前の時代とは対照的に、Grok、ChatGPT、Meta AI、Gemeni、DeepSeekといった多くのAIツールが広く公開され、画像作成を含む基本機能を無料で利用できるようになっています。ユーザーは、専門的な処理技術を理解することなく、希望する画像を作成したり、トリミングや編集を行ったりすることができます。これにより、エンターテイメントからインターネット上の脅威に至るまで、様々な目的でAIを用いた顔合成動画の作成が増加しています。
YNさん（ホーチミン市1区）は、かつてAIによる画像操作による脅迫の被害に遭い、「機密」データを取り戻すには多額の金銭を要求されたと語った。しかし、そのデータはすべてAIツールによって作成されたものだった。具体的には、犯罪者が彼女の個人情報を収集し、顔写真を編集して悪質なコンテンツを作成し、センシティブなチャットを作成した後、YNさんを脅迫するために現れたという。
犯罪者はAIを使って被害者を編集、切り取り、脅迫する
「彼らは偽のチャット、画像、動画のスクリーンショットを見せ、コンテンツを削除するために1億ドンを要求しました。合成画像は本物か偽物か判別不能だと言わざるを得ません」と被害者は語り、上記の行為を当局に通報したと付け加えた。
YNさんの事件は、AIや画像編集ツールを悪意ある目的で悪用した、近年の多くの事件の一つに過ぎません。情報セキュリティの専門家がこの問題について多くの警告を発しているにもかかわらず、ベトナムのソーシャルメディア利用者は依然として、個人の画像や友人、親戚の画像をオンライン上や公の場で共有することに非常に「気楽」です。
公安部は最近、インターネット上に公開されている個人の画像や動画を悪用し、編集、カット、合成などを行い、センシティブなコンテンツを作成して脅迫や恐喝を行う犯罪者が現れていると、携帯電話ユーザーに向けて警告を発した。通知には、「上記のような内容のメッセージや通話を受信した場合は警戒を怠らず、脅迫された場合には金銭を送金しないでください。詐欺や財産強奪の兆候を察知した場合は、最寄りの警察機関に速やかに通報し、VNeIDアプリから通報してください」と記されている。
犯罪者は脅迫に加え、被害者の公開されている多数の個人画像や動画を利用して偽のコンテンツを作成し、職場環境における評判を毀損したり、個人的な復讐を行ったり、精神的・名誉を傷つけたりすることも可能です。特に、これらの偽造文書はますます巧妙化しており、一般の人々だけでなく人工知能分野に関心を持つ人々にとっても見分けることが困難になっています。
販売支援のためのAIチャットボットを開発するポーランド企業Tidioが昨年末に行った調査によると、インターネットユーザーの大多数がAIが生成した画像を判別するのがますます困難になっていることが明らかになりました。同社によると、回答者の87%がAI画像と実在の人物の写真を混同しているとのことです。さらに、回答者の62%がAIと機械学習に興味を示しましたが、そのうち半数は人工知能が生成した画像を正しく識別できませんでした。
現在、サイバー犯罪におけるAIの利用については具体的な規制はないが、他人の画像を利用して脅迫、恐喝、虚偽情報の拡散を行うことは、依然として、他人を辱める、財産を強奪する、またはわいせつな文化製品を拡散する犯罪に関する規定に基づいて取り扱われる可能性がある。
このような状況に直面して、専門家は、ユーザーがソーシャル ネットワーク上で個人の画像を共有する際には注意し、セキュリティ ツールを使用してプライバシーを管理することを推奨しています。
[広告2]
出典: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm
コメント (0)