Yapay Zeka: Fısıltı Aracının Karanlık Yüzü

İşitme engelliler için altyazı oluşturmak amacıyla Whisper'ın kullanılması da sorunludur, çünkü milyonlarca kelime arasında gizlenmiş yanlış bilgileri tespit etmelerinin bir yolu yoktur.

İllüstrasyon fotoğrafı. (Kaynak: Voicegain)

Yapay Zeka'nın (YZ) günlük hayatın vazgeçilmez bir parçası haline geldiği bu dönemde, OpenAI tarafından geliştirilen Whisper adlı araç, neredeyse "insan hassasiyetinde" otomatik not alma yeteneği sayesinde büyük ilgi görüyor.

Ancak Whisper'ın bu kadar beğenilmesinin ardında ciddi bir kusuru var: Kendi kendini kurgulama yeteneği, yani daha önce hiç kimsenin yazmadığı metinler veya ifadeler üretebilmesi.

Yazılım mühendisleri ve araştırmacılara göre, kurgusal detaylar sadece kafa karışıklığına yol açmakla kalmıyor, aynı zamanda ırkçı yorumlar, şiddet içeren ifadeler ve gerçekçi olmayan tıbbi tedaviler de içerebiliyor.

OpenAI, aracın "yüksek riskli bölgelerde" kullanılmaması gerektiği konusunda uyarıda bulunsa da, birçok sağlık tesisi hâlâ doktor-hasta görüşmelerini kaydetmek için Whisper'ı aktif olarak kullanıyor.

Nitekim yakın zamanda yapılan bir araştırma, kamu toplantıları anketinde ses kayıtlarının %80'inin bu kurgusal ayrıntıları içerdiğini ortaya koydu. Bir makine öğrenimi mühendisi ayrıca, 100 saatten fazla Whisper transkriptinin analizinin, bunların yaklaşık %50'sinin ciddi hatalar içerdiğini ortaya koyduğunu ve giderek daha fazla kullanılan teknolojinin güvenilirliği konusunda endişelere yol açtığını belirtti.

Uzmanlar, özellikle tıp alanında yapılan hataların "gerçekten ciddi sonuçlara" yol açabileceği konusunda uyarıyor.

Beyaz Saray Bilim ve Teknoloji Politikası Ofisi eski müdürü Alondra Nelson, kimsenin yanlış teşhis istemediğini vurgulayarak, bu teknolojinin uygulanmasında daha yüksek standartlar gerektiğini söyledi.

İşitme engelliler için altyazı oluşturmak amacıyla Whisper'ın kullanılması da sorunludur, çünkü milyonlarca kelime arasında gizlenmiş yanlış bilgileri tespit etmelerinin bir yolu yoktur.

Kurgusal metinlerin yükselişi, birçok uzman, aktivist ve eski OpenAI çalışanını, federal hükümete yapay zekayı düzenlemeyi düşünmesi çağrısında bulunmaya yöneltti.

San Francisco'da araştırma mühendisi olan William Saunders, OpenAI'nin bu sorunu ele almaya öncelik vermesi halinde sorunun tamamen çözülebileceğine inanıyor.

OpenAI, kurgusal ayrıntıları en aza indirmek için sürekli çalıştığını ve araştırma topluluğundan gelen geri bildirimlere değer verdiğini kabul etti.

Ancak birçok mühendis hâlâ Whisper kadar kurgu seviyesi yüksek başka bir yapay zeka not alma aracı görmediklerini iddia ediyor.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp