Kecerdasan Buatan: Bahagian Gelap Alat Whisper

Penggunaan Whisper untuk mencipta kapsyen untuk orang cacat pendengaran juga bermasalah, kerana mereka tidak mempunyai cara untuk mengesan maklumat salah yang tersembunyi di antara jutaan perkataan yang dihasilkan.

Dalam era Kecerdasan Buatan (AI) menjadi bahagian yang sangat diperlukan dalam kehidupan seharian, alat yang dipanggil Whisper yang dibangunkan oleh OpenAI telah menarik perhatian yang hebat berkat keupayaannya untuk secara automatik mencatat nota dengan hampir "ketepatan seperti manusia."

Di sebalik pujian itu, walau bagaimanapun, Whisper menghadapi kritikan berat kerana kecacatan yang serius: keupayaannya untuk fiksyen auto, iaitu, menjana teks atau bahkan kenyataan yang tidak pernah ditulis oleh sesiapa pun.

Menurut jurutera perisian dan penyelidik, butiran fiksyen bukan sahaja menyebabkan kekeliruan, tetapi juga boleh mengandungi komen perkauman, bahasa ganas dan rawatan perubatan yang tidak realistik.

Walaupun OpenAI telah memberi amaran bahawa alat itu tidak boleh digunakan di "kawasan berisiko tinggi", banyak kemudahan perubatan masih aktif menggunakan Whisper untuk merekodkan perundingan doktor-pesakit.

Malah, kajian baru-baru ini mendapati bahawa sebanyak 80% rakaman audio dalam tinjauan mesyuarat awam mengandungi butiran fiksyen ini. Seorang jurutera pembelajaran mesin juga menegaskan bahawa analisis lebih daripada 100 jam transkrip Whisper mendedahkan bahawa kira-kira 50% daripadanya mengandungi ralat yang serius, menimbulkan kebimbangan tentang kebolehpercayaan teknologi, yang semakin digunakan.

Pakar memberi amaran bahawa kesilapan boleh membawa kepada "akibat yang sangat serius", terutamanya dalam bidang perubatan.

Alondra Nelson, bekas pengarah Pejabat Sains dan Dasar Teknologi Rumah Putih, menegaskan bahawa tiada siapa yang mahu diagnosis salah, dan meminta standard yang lebih tinggi dalam penggunaan teknologi ini.

Penggunaan Whisper untuk mencipta kapsyen untuk orang cacat pendengaran juga bermasalah, kerana mereka tidak mempunyai cara untuk mengesan maklumat salah yang tersembunyi di antara jutaan perkataan yang dihasilkan.

Kebangkitan teks fiksyen telah mendorong ramai pakar, aktivis dan bekas pekerja OpenAI meminta kerajaan persekutuan mempertimbangkan untuk mengawal selia AI.

William Saunders, seorang jurutera penyelidikan di San Francisco, percaya masalah ini boleh diselesaikan sepenuhnya jika OpenAI mengutamakan pengendaliannya.

OpenAI telah mengakui bahawa ia sentiasa berusaha untuk meminimumkan butiran fiksyen dan menghargai maklum balas daripada komuniti penyelidikan.

Walau bagaimanapun, ramai jurutera masih mendakwa bahawa mereka tidak pernah melihat alat pengambilan nota AI lain dengan tahap fiksyen setinggi Whisper./.

(TTXVN/Vietnam+)

Sumber: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp