Yapay zeka konuşma-metin araçları da 'çarpıtıyor'

(CLO) OpenAI'nin konuşmayı metne dönüştürme aracı Whisper, "insan seviyesine yakın sağlam ve doğru" olarak tanıtılıyor, ancak büyük bir dezavantajı var: Metin parçacıkları veya hatta tüm cümleleri uydurmaya yatkın!

Uzmanlar, sektörde halüsinasyon olarak bilinen bazı metinlerin ırkçı yorumlar, şiddet ve hatta hayali tıbbi tedaviler içerebileceğini söylüyor.

Uzmanlar, bu tür uydurmaların ciddi olduğunu, çünkü Whisper'ın dünya çapında birçok sektörde röportajları çevirip yazıya dökmek, metin oluşturmak ve videolara altyazı eklemek için kullanıldığını söylüyor.

Daha da endişe verici olanı, OpenAI'nin aracın "yüksek riskli bölgelerde" kullanılmaması gerektiği yönündeki uyarısına rağmen, tıp merkezlerinin hasta-doktor görüşmelerini kaydetmek için Whisper tabanlı araçlar kullanmasıdır.

"#Ground truth" ile başlayan cümleler gerçekte söylenenlerdir, "#text" ile başlayan cümleler ise Whisper'ın yazıya döktüğü cümlelerdir. Fotoğraf: AP

Araştırmacılar ve mühendisler, Whisper'ın kullanım sırasında sık sık halüsinasyonlara neden olduğunu söylüyor. Örneğin, Michigan Üniversitesi'nden bir araştırmacı, incelediği 10 kayıttan sekizinde halüsinasyon bulduğunu söyledi.

İlk makine öğrenimi mühendislerinden biri, analiz ettiği 100 saati aşkın Whisper transkriptinin yaklaşık yarısında manipülasyon buldu. Üçüncü bir geliştirici ise, Whisper ile oluşturulan 26.000 transkriptin neredeyse her birinde halüsinasyonlar bulduğunu söyledi.

Bu yanılsama, kısa ve iyi kaydedilmiş ses örneklerinde bile devam ediyor. Bilgisayar bilimcilerinin yakın zamanda yaptığı bir araştırma, inceledikleri 13.000'den fazla net ses klibinde 187 bozulma tespit etti.

Araştırmacılar, bu eğilimin milyonlarca kayıtta on binlerce hataya yol açacağını söyledi.

İleri Araştırmalar Enstitüsü Sosyal Bilimler Fakültesi'nde profesör olan Alondra Nelson, bu tür hataların özellikle hastane ortamında "gerçekten ciddi sonuçlara" yol açabileceğini söyledi.

Nelson, "Kimse yanlış teşhis konulmasını istemez. Daha yüksek bir bariyere ihtiyaç var," dedi.

Cornell Üniversitesi'nden Profesör Allison Koenecke ve Virginia Üniversitesi'nden Profesör Mona Sloane, Carnegie Mellon Üniversitesi'nde bulunan bir araştırma arşivi olan TalkBank'tan aldıkları binlerce kısa alıntıyı incelediler. Halüsinasyonların yaklaşık %40'ının, konuşmacının yanlış anlaşılabileceği veya yanlış temsil edilebileceği için zararlı veya rahatsız edici olduğunu tespit ettiler.

Bir kayıtta konuşmacılardan biri "iki kız ve bir kadın" ifadesini kullanırken, Whisper daha sonra ırkçı yorumlarda bulunarak "iki kız ve siyah bir kadın" ifadesini kullandı.

Başka bir transkriptte ise Whisper'ın "etkisi artırılmış antibiyotik" adı verilen var olmayan bir ilacı icat ettiği belirtiliyor.

Çoğu geliştirici, transkripsiyon araçlarının yazım hataları veya diğer hatalar yapabileceğini kabul ederken, mühendisler ve araştırmacılar, Whisper kadar halüsinojenik bir yapay zeka destekli transkripsiyon aracı görmediklerini söylüyor.

Araç, OpenAI'nin amiral gemisi sohbet robotu ChatGPT'nin çeşitli sürümlerine entegre edilmiştir ve dünya çapında binlerce şirkete hizmet veren Oracle ve Microsoft'un bulut bilişim platformuna entegre bir hizmettir. Ayrıca, metinleri birçok dile yazıya dökmek ve çevirmek için de kullanılır.

Ngoc Anh (AP'ye göre)

Kaynak: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html