Kecerdasan Buatan: Sisi Gelap Alat Bisikan

Penggunaan Whisper untuk membuat teks bagi mereka yang tuna rungu juga bermasalah, karena mereka tidak memiliki cara untuk mendeteksi misinformasi yang tersembunyi di antara jutaan kata yang dihasilkan.

Di era Kecerdasan Buatan (AI) yang menjadi bagian tak terpisahkan dari kehidupan sehari-hari, sebuah alat bernama Whisper yang dikembangkan oleh OpenAI telah menarik perhatian besar berkat kemampuannya untuk mencatat secara otomatis dengan akurasi hampir seperti manusia.

Namun, di balik pujiannya, Whisper menghadapi kritik keras karena kelemahan serius: kemampuannya untuk membuat fiksi otomatis, yaitu menghasilkan teks atau bahkan pernyataan yang belum pernah ditulis oleh siapa pun.

Menurut para insinyur dan peneliti perangkat lunak, detail fiktif tidak hanya menyebabkan kebingungan, tetapi juga dapat berisi komentar rasis, bahasa kasar, dan perawatan medis yang tidak realistis.

Meskipun OpenAI telah memperingatkan bahwa alat tersebut tidak boleh digunakan di "area berisiko tinggi", banyak fasilitas medis masih secara aktif mengadopsi Whisper untuk merekam konsultasi dokter-pasien.

Faktanya, sebuah studi terbaru menemukan bahwa sebanyak 80% rekaman audio dalam survei pertemuan publik mengandung detail fiktif ini. Seorang insinyur pembelajaran mesin juga menunjukkan bahwa analisis lebih dari 100 jam transkrip Whisper mengungkapkan bahwa sekitar 50% di antaranya mengandung kesalahan serius, yang menimbulkan kekhawatiran tentang keandalan teknologi ini, yang semakin banyak digunakan.

Para ahli memperingatkan bahwa kesalahan dapat menyebabkan "konsekuensi yang sangat serius", terutama di bidang medis.

Alondra Nelson, mantan direktur Kantor Kebijakan Sains dan Teknologi Gedung Putih, menekankan bahwa tidak seorang pun menginginkan kesalahan diagnosis, dan menyerukan standar yang lebih tinggi dalam penerapan teknologi ini.

Penggunaan Whisper untuk membuat teks bagi mereka yang tuna rungu juga bermasalah, karena mereka tidak memiliki cara untuk mendeteksi misinformasi yang tersembunyi di antara jutaan kata yang dihasilkan.

Maraknya teks fiksi telah mendorong banyak pakar, aktivis, dan mantan karyawan OpenAI untuk mendesak pemerintah federal agar mempertimbangkan regulasi AI.

William Saunders, seorang insinyur penelitian di San Francisco, meyakini masalah ini sepenuhnya dapat dipecahkan jika OpenAI memprioritaskan penanganannya.

OpenAI telah mengakui bahwa pihaknya terus berupaya meminimalkan detail fiktif dan menghargai masukan dari komunitas penelitian.

Namun, banyak insinyur masih mengklaim bahwa mereka belum pernah melihat alat pencatat AI lain dengan tingkat fiksi setinggi Whisper./.

(TTXVN/Vietnam+)

[iklan_2]
Sumber: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp