Alat AI yang mengubah ucapan menjadi teks juga 'mendistorsi'

(CLO) Alat pengubah ucapan menjadi teks Whisper milik OpenAI diiklankan sebagai alat yang "kuat dan akurat mendekati tingkat manusia," tetapi memiliki satu kelemahan utama: alat ini rentan memalsukan potongan teks atau bahkan seluruh kalimat!

Beberapa teks yang direkayasa, yang dikenal dalam industri sebagai halusinasi, dapat mencakup komentar rasial, kekerasan, dan bahkan perawatan medis imajiner, kata para ahli.

Para ahli mengatakan pemalsuan semacam itu serius karena Whisper digunakan di banyak industri di seluruh dunia untuk menerjemahkan dan menyalin wawancara, menghasilkan teks dan teks terjemahan video.

Yang lebih mengkhawatirkan, pusat-pusat medis menggunakan alat berbasis Whisper untuk merekam konsultasi pasien-dokter, meskipun OpenAI memperingatkan bahwa alat tersebut tidak boleh digunakan di "area berisiko tinggi".

Kalimat yang dimulai dengan "#Ground truth" adalah apa yang sebenarnya dikatakan, sedangkan kalimat yang dimulai dengan "#text" adalah apa yang ditranskripsi oleh Whisper. Foto: AP

Para peneliti dan teknisi mengatakan Whisper sering kali menimbulkan halusinasi saat digunakan. Sebagai contoh, seorang peneliti dari Universitas Michigan mengatakan ia menemukan halusinasi dalam delapan dari 10 rekaman yang ia periksa.

Seorang insinyur pembelajaran mesin awal menemukan manipulasi pada sekitar setengah dari lebih dari 100 jam transkrip Whisper yang dianalisisnya. Pengembang ketiga mengatakan ia menemukan halusinasi di hampir setiap 26.000 transkrip yang dibuat dengan Whisper.

Ilusi ini tetap ada bahkan dalam sampel audio pendek yang terekam dengan baik. Sebuah studi terbaru oleh ilmuwan komputer menemukan 187 distorsi dalam lebih dari 13.000 klip audio jernih yang mereka periksa.

Tren itu akan menyebabkan puluhan ribu kesalahan pada jutaan rekaman, kata para peneliti.

Kesalahan semacam itu dapat menimbulkan “konsekuensi yang sangat serius,” terutama di lingkungan rumah sakit, kata Alondra Nelson, seorang profesor di Sekolah Ilmu Sosial di Institut Studi Lanjutan.

"Tidak ada yang mau salah didiagnosis. Harus ada batasan yang lebih tinggi," kata Nelson.

Profesor Allison Koenecke dari Universitas Cornell dan Mona Sloane dari Universitas Virginia memeriksa ribuan kutipan pendek yang mereka ambil dari TalkBank, sebuah arsip penelitian yang disimpan di Universitas Carnegie Mellon. Mereka menyimpulkan bahwa hampir 40% halusinasi bersifat berbahaya atau mengganggu karena pembicaranya dapat disalahpahami atau disalahartikan.

Seorang pembicara dalam satu rekaman menggambarkan "dua gadis lain dan seorang wanita", tetapi Whisper mengarang komentar rasial tambahan, dengan menambahkan "dua gadis lain dan seorang wanita, yang berkulit hitam".

Dalam transkripsi lain, Whisper menemukan obat yang tidak ada yang disebut "antibiotik dengan aktivitas yang meningkat".

Sementara sebagian besar pengembang mengakui bahwa alat transkripsi dapat membuat kesalahan ejaan atau kesalahan lainnya, para insinyur dan peneliti mengatakan mereka belum pernah melihat alat transkripsi bertenaga AI yang bersifat halusinogenik seperti Whisper.

Alat ini terintegrasi ke dalam beberapa versi chatbot unggulan OpenAI, ChatGPT, dan merupakan layanan terintegrasi dalam platform komputasi awan Oracle dan Microsoft, yang melayani ribuan perusahaan di seluruh dunia. Alat ini juga digunakan untuk mentranskripsi dan menerjemahkan teks ke dalam berbagai bahasa.

Ngoc Anh (menurut AP)

Sumber: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html