Berhati-hati dengan sisi gelap AI

Walaupun faedahnya yang tidak dapat dinafikan, kecerdasan buatan (AI) menimbulkan persoalan etika yang mendesak. Terutama, dalam penyelidikan saintifik, terdapat banyak statistik yang menunjukkan bahawa penyalahgunaan AI boleh membawa kepada berat sebelah yang tidak dapat diramalkan.

Bengkel untuk menyumbang idea untuk menyempurnakan draf Undang-undang Kepintaran Buatan (AI). (Foto: HUONG NGUYEN)

Insiden terkini yang melibatkan berat sebelah dan pemalsuan dokumen telah menyebabkan para sarjana mempertimbangkan semula tahap penglibatan AI yang sesuai dalam penyelidikan.

Baru-baru ini, di halaman peribadinya, Profesor, Doktor Linguistik Nguyen Van Hiep berkongsi kisah yang mengejutkan pembaca. Dia mendapati bahawa AI telah memalsukan dokumennya dalam maklumat yang dihantar oleh seorang rakan. Dia juga secara tidak sengaja mendapati artikel Profesor Madya, Doktor Sains Tran Van Co juga dipalsukan oleh AI.

AI telah menjadi bahagian penting dalam kehidupan manusia, namun, pakar sentiasa menekankan bahawa kita hanya perlu melihat AI sebagai alat sokongan. Pengguna AI sentiasa perlu berwaspada dan berpengetahuan untuk memproses data dan menilai keputusan yang diperolehi selepas "bekerjasama" dengan AI. Khususnya dalam penyelidikan saintifik, banyak kajian telah menunjukkan bahawa masalah terbesar yang perlu berwaspada adalah berat sebelah dalam data dan model. AI boleh menjadi berat sebelah, memesongkan keputusan analisis, mewujudkan prasangka atau diskriminasi, dan memanipulasi maklumat jika tidak dikawal dengan baik.

Khususnya, penggunaan AI dalam penyelidikan sains sosial memerlukan lebih berhati-hati. Oleh kerana bidang dalam sains sosial seperti falsafah, linguistik, etnologi, sejarah, dsb. semuanya mengambil tingkah laku, budaya, dan kelakuan manusia sebagai objek kajian, data selalunya berkait rapat dengan konteks sosiobudaya Vietnam, dengan kedalaman dan kekhususan. Jika data latihan AI mencerminkan prasangka sejarah, bahaya yang boleh berlaku ialah AI boleh membuat kesimpulan yang memburukkan lagi masalah ketidaksamaan antara jantina, kelas, bangsa atau wilayah geografi. Risiko lebih besar apabila AI digunakan untuk menganalisis tingkah laku manusia, menjawab tinjauan terbuka atau mengambil bahagian dalam kandungan media.

Menurut beberapa pakar sains sosial, AI pada masa ini menghadapi kesukaran untuk mengakses sumber data berhak cipta atau berbayar, mengakibatkan maklumat tidak dikemas kini sepenuhnya.

Fenomena mengada-adakan dokumen untuk mencipta cerita yang munasabah sering berlaku dalam topik yang kurang popular, dalam bahasa dengan sumber data terhad seperti Vietnam, dan harus diberi amaran untuk memberi amaran kepada pengguna. Sistem AI pada umumnya pada masa ini sangat terhad dalam memahami konteks sosial dan budaya, jadi bantuan mereka dalam mentafsir pengetahuan sains sosial yang samar-samar, kaya metafora tidak benar-benar boleh dipercayai.

Walaupun ia membawa banyak potensi dalam penyelidikan saintifik, aplikasi AI perlu sangat berhati-hati, mempunyai had dan mesti sentiasa seiring dengan keupayaan pemikiran kritis penyelidik.

Dapat dilihat bahawa, walaupun ia membawa banyak potensi dalam penyelidikan saintifik, aplikasi AI perlu sangat berhati-hati, terhad dan sentiasa disertai dengan kapasiti kritikal penyelidik. Subjek yang menggunakan AI mesti mengenal pasti batasan ini dengan jelas dalam penggunaan AI, memastikan AI tidak mengubah nilai teras sains. Untuk melindungi integriti penyelidikan saintifik, peranan dan tanggungjawab saintis mesti dinaikkan ke tahap yang baharu. Di samping itu, adalah perlu untuk mencadangkan rangka kerja etika AI yang mengikat secara sah dalam konteks budaya, tradisi dan norma sosial Vietnam.

Kami mempunyai sistem sembilan prinsip untuk menggalakkan penyelidikan dan pembangunan sistem AI yang selamat dan bertanggungjawab, mengehadkan kesan negatif dan mengawal risiko yang dicadangkan oleh Kementerian Sains dan Teknologi , yang menekankan keselamatan data serta menghormati hak asasi manusia dan maruah, dan akauntabiliti pengguna AI. Khususnya dalam penyelidikan saintifik, Majlis Profesor Negeri turut mengeluarkan Kiriman Rasmi No. 25/HDGSNN pada tahun 2023, meminta agar majlis gelaran profesor industri dan kemudahan untuk menilai kualiti karya saintifik memberi perhatian khusus untuk mengesan dan menilai karya yang menggunakan atau dibantu oleh teknologi AI. Keperluan ini bertujuan untuk memastikan hasil penyelidikan menggunakan AI masih memenuhi piawaian saintifik, mencegah penyalahgunaan AI dalam penyelidikan dan penerbitan saintifik.

Pada masa akan datang, apabila Undang-undang mengenai Kepintaran Buatan dikeluarkan, dengan peraturan ketat berkaitan etika dan tanggungjawab dalam menggunakan AI, ia akan menyumbang kepada mewujudkan persekitaran yang sihat untuk pembangunan AI, memberikan sokongan yang lebih aktif dan bertanggungjawab untuk saintis dalam kerja penyelidikan.

Pesta Tarian

Sumber: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html