Waspadai sisi gelap AI

Meskipun manfaatnya tak terbantahkan, kecerdasan buatan (AI) menimbulkan pertanyaan etika yang mendesak. Khususnya, dalam penelitian ilmiah, terdapat banyak statistik yang menunjukkan bahwa penyalahgunaan AI dapat menyebabkan bias yang tak terduga.

Lokakarya untuk menyumbangkan gagasan guna menyempurnakan rancangan Undang-Undang Kecerdasan Buatan (AI). (Foto: HUONG NGUYEN)

Insiden terkini yang melibatkan bias dan pemalsuan dokumen telah menyebabkan para akademisi mempertimbangkan kembali tingkat keterlibatan AI yang tepat dalam penelitian.

Baru-baru ini, di halaman pribadinya, Profesor, Doktor Linguistik, Nguyen Van Hiep, membagikan kisah yang mengejutkan para pembaca. Ia menemukan bahwa AI telah memalsukan dokumennya berdasarkan informasi yang dikirim oleh seorang teman. Ia juga secara tidak sengaja menemukan bahwa artikel ilmiah milik Lektor Kepala, Doktor Sains, Tran Van Co, juga dipalsukan oleh AI.

AI telah menjadi bagian tak terpisahkan dari kehidupan manusia, namun para ahli selalu menekankan bahwa kita seharusnya hanya memandang AI sebagai alat pendukung. Pengguna AI harus selalu waspada dan berpengetahuan luas untuk memproses data dan mengevaluasi hasil yang diperoleh setelah "bekerja sama" dengan AI. Khususnya dalam penelitian ilmiah, banyak penelitian telah menunjukkan bahwa masalah terbesar yang perlu diwaspadai adalah bias dalam data dan model. AI dapat bias, mendistorsi hasil analisis, menciptakan prasangka atau diskriminasi, dan memanipulasi informasi jika tidak dikontrol dengan baik.

Khususnya, penggunaan AI dalam penelitian ilmu sosial membutuhkan kehati-hatian yang jauh lebih tinggi. Karena bidang-bidang ilmu sosial seperti filsafat, linguistik, etnologi, sejarah, dll., semuanya menggunakan perilaku, budaya, dan perilaku manusia sebagai objek penelitian, data yang dihasilkan seringkali berkaitan erat dengan konteks sosial-budaya Vietnam, dengan kedalaman dan spesifisitasnya. Jika data pelatihan AI mencerminkan prasangka historis, risiko yang dapat terjadi adalah AI dapat menarik kesimpulan yang memperburuk masalah ketidaksetaraan gender, kelas, ras, atau wilayah geografis. Risikonya bahkan lebih besar ketika AI digunakan untuk menganalisis perilaku manusia, menanggapi survei terbuka, atau berpartisipasi dalam konten media.

Menurut beberapa ahli ilmu sosial, AI saat ini kesulitan mengakses sumber data berhak cipta atau berbayar, sehingga mengakibatkan informasi tidak diperbarui secara lengkap.

Fenomena pemalsuan dokumen untuk menciptakan cerita yang masuk akal sering terjadi pada topik yang kurang populer, dalam bahasa dengan sumber data terbatas seperti bahasa Vietnam, dan perlu diperingatkan agar pengguna tetap waspada. Sistem AI secara umum saat ini sangat terbatas dalam memahami konteks sosial dan budaya, sehingga bantuannya dalam menafsirkan pengetahuan ilmu sosial yang ambigu dan kaya metafora tidak sepenuhnya dapat diandalkan.

Meskipun membawa banyak potensi dalam penelitian ilmiah, penerapan AI perlu sangat hati-hati, memiliki batas dan harus selalu berjalan beriringan dengan kemampuan berpikir kritis peneliti.

Dapat dilihat bahwa, meskipun membawa banyak potensi dalam penelitian ilmiah, penerapan AI perlu sangat hati-hati, terbatas, dan selalu disertai dengan kapasitas kritis peneliti. Subjek yang menggunakan AI harus mengidentifikasi dengan jelas batasan-batasan ini dalam penggunaan AI, memastikan bahwa AI tidak mengubah nilai-nilai inti sains. Untuk melindungi integritas penelitian ilmiah, peran dan tanggung jawab ilmuwan harus ditingkatkan ke tingkat yang lebih tinggi. Selain itu, perlu diusulkan kerangka etika AI yang mengikat secara hukum dalam konteks budaya, tradisi, dan norma sosial Vietnam.

Kami memiliki sistem sembilan prinsip yang diusulkan oleh Kementerian Sains dan Teknologi untuk mendorong penelitian dan pengembangan sistem AI yang aman dan bertanggung jawab, membatasi dampak negatif, dan mengendalikan risiko. Sistem ini menekankan keamanan data serta penghormatan terhadap hak asasi manusia dan martabat, serta akuntabilitas pengguna AI. Khususnya dalam penelitian ilmiah, Dewan Profesor Negara juga menerbitkan Surat Keputusan Resmi No. 25/HDGSNN pada tahun 2023, yang meminta dewan gelar profesor industri dan fasilitas untuk menilai kualitas karya ilmiah untuk memberikan perhatian khusus dalam mendeteksi dan mengevaluasi karya yang menggunakan atau dibantu oleh teknologi AI. Persyaratan ini bertujuan untuk memastikan bahwa hasil penelitian yang menggunakan AI tetap memenuhi standar ilmiah, sehingga mencegah penyalahgunaan AI dalam penelitian dan publikasi ilmiah.

Di masa mendatang, ketika Undang-Undang tentang Kecerdasan Buatan diterbitkan, dengan regulasi yang ketat terkait etika dan tanggung jawab dalam penggunaan AI, akan berkontribusi dalam menciptakan lingkungan yang sehat bagi pengembangan AI, memberikan dukungan yang lebih aktif dan bertanggung jawab bagi para ilmuwan dalam pekerjaan penelitian.

Festival Tari

Sumber: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html