人工知能：ウィスパーツールのダークサイド

聴覚障害者向けの字幕を作成するためにウィスパーを使用することも深刻な問題です。生成される何百万語もの単語の中に隠された誤った情報を検出する方法がないためです。

イラスト写真。（出典：Voicegain）

人工知能（AI）が日常生活に欠かせないものになりつつある時代において、OpenAIが開発したWhisperというツールは、ほぼ「人間のような正確さ」で自動的にメモを取ることができるとして大きな注目を集めています。

しかし、称賛の裏で、ウィスパーには重大な欠陥があり、厳しい批判に直面している。それは、情報を自動的に捏造する機能、つまり、誰も書いたことのないテキストや声明さえも生成する機能だ。

ソフトウェアエンジニアや研究者によると、架空の詳細は混乱を招くだけでなく、人種差別的なコメントや暴力的な言葉、非現実的な医療行為などを含む可能性もあるという。

OpenAIは「高リスク地域」ではこのツールを使用すべきではないと警告しているが、多くの医療施設は依然として医師と患者の診察を記録するためにWhisperを積極的に導入している。

実際、最近の研究では、公開会議の記録の最大80%にこうした虚偽の詳細が含まれていたことが判明しました。機械学習エンジニアはまた、100時間以上に及ぶWhisperの記録を分析した結果、約50%に重大な誤りが含まれていることが判明したと指摘し、利用が拡大しているこの技術の信頼性に対する懸念を提起しています。

専門家は、特に医療分野においては、ミスが「非常に深刻な結果」につながる可能性があると警告している。

ホワイトハウス科学技術政策局の元局長アロンドラ・ネルソン氏は、誰も誤診を望んでいないと強調し、この技術の適用におけるより高い基準を求めた。

聴覚障害者向けの字幕を作成するためにウィスパーを使用することも深刻な問題です。生成される何百万語もの単語の中に隠された誤った情報を検出する方法がないためです。

フィクションのテキストの増加により、多くの専門家、活動家、OpenAIの元従業員が連邦政府にAIの規制を検討するよう求めるようになりました。

サンフランシスコの研究エンジニアであるウィリアム・サンダース氏は、OpenAIが処理を優先すればこの問題は完全に解決できると考えています。

OpenAIは、虚構の詳細を最小限に抑えるために常に取り組んでおり、研究コミュニティからのフィードバックに感謝していることを認めています。

しかし、多くのエンジニアは依然として、Whisper ほどフィクションのレベルが高い AI メモ取りツールは見たことがないと主張しています。

（ベトナム+）

出典: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp