人工知能：ウィスパーツールのダークサイド

聴覚障害者向けの字幕を作成するためにウィスパーを使用することも問題があります。生成される何百万語もの単語の中に隠された誤情報を検出する方法がないからです。

イラスト写真。（出典：Voicegain）

人工知能（AI）が日常生活に欠かせないものになりつつある時代において、OpenAIが開発したWhisperというツールは、ほぼ「人間のような正確さ」で自動的にメモを取ることができるとして大きな注目を集めています。

しかし、称賛の裏で、ウィスパーはある重大な欠陥、つまりオートフィクション機能、つまり誰も書いたことのないテキストや文さえも生成する機能について、厳しい批判に直面している。

ソフトウェアエンジニアや研究者によると、架空の詳細は混乱を招くだけでなく、人種差別的なコメントや暴力的な言葉、非現実的な医療行為などを含む可能性もあるという。

OpenAIは「高リスク地域」ではこのツールを使用すべきではないと警告しているが、多くの医療施設は依然として医師と患者の診察を記録するためにWhisperを積極的に導入している。

実際、最近の調査では、公開会議の音声録音の80%にこうした虚偽の詳細が含まれていたことが明らかになりました。機械学習エンジニアはまた、100時間以上に及ぶWhisperの記録を分析した結果、約50%に重大な誤りが含まれていることが明らかになったと指摘し、利用が拡大しているこの技術の信頼性に対する懸念を提起しています。

専門家は、特に医療分野では、ミスが「非常に深刻な結果」につながる可能性があると警告している。

ホワイトハウス科学技術政策局の元局長アロンドラ・ネルソン氏は、誰も誤診を望んでいないと強調し、この技術の適用におけるより高い基準を求めた。

聴覚障害者向けの字幕を作成するためにウィスパーを使用することも問題があります。生成される何百万語もの単語の中に隠された誤情報を検出する方法がないからです。

フィクションのテキストの増加により、多くの専門家、活動家、OpenAIの元従業員が連邦政府にAIの規制を検討するよう求めるようになりました。

サンフランシスコの研究エンジニアであるウィリアム・サンダース氏は、OpenAIが優先的に対処すればこの問題は完全に解決できると考えている。

OpenAIは、架空の詳細を最小限に抑えるために常に取り組んでおり、研究コミュニティからのフィードバックに感謝していることを認めています。

しかし、多くのエンジニアは依然として、Whisper ほどフィクションのレベルが高い AI メモ取りツールは見たことがないと主張しています。

（TTXVN/ベトナム+）

出典: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp