AI juga membuat kesalahan irasional dan menunjukkan bias seperti halnya manusia.

Meskipun beroperasi berdasarkan algoritma dan kumpulan data yang sangat besar, sistem kecerdasan buatan (AI) seperti ChatGPT masih rentan terhadap bias kognitif manusia yang umum, yaitu terlalu percaya diri dan bias.

AI bekerja paling baik ketika diberi tugas untuk memecahkan masalah yang mengikuti prosedur yang jelas dan rumus tetap. Namun, ketika berhadapan dengan situasi yang membutuhkan penilaian subjektif atau melibatkan preferensi pribadi, AI dapat membuat kesalahan yang mirip dengan manusia.

Sebuah studi baru yang diterbitkan dalam jurnal Manufacturing & Service Operations Management, yang dilakukan oleh para ilmuwan di lima universitas di Kanada dan Australia, mengevaluasi perilaku ChatGPT (khususnya, model GPT-3.5 dan GPT-4 dari OpenAI) pada 18 bias kognitif menonjol yang umum ditemukan dalam psikologi manusia, seperti bias konfirmasi, efek posesif, kekeliruan biaya tenggelam, dan bias kepastian.

Hasil penelitian menunjukkan bahwa dalam hampir setengah dari skenario yang diuji, ChatGPT berperilaku persis seperti manusia ketika dihadapkan pada pilihan yang irasional atau emosional, terlepas dari reputasi sistem tersebut yang dikenal karena penalaran logisnya yang konsisten.

Apakah AI benar-benar "tidak memihak" seperti yang diharapkan?

Dr. Yang Chen, profesor madya manajemen operasi di Ivey Business School (Kanada) dan penulis utama studi tersebut, menyatakan: "AI berkinerja terbaik ketika diberi tugas untuk memecahkan masalah yang mengikuti proses yang jelas dan rumus tetap. Tetapi ketika berurusan dengan situasi yang membutuhkan penilaian subjektif atau melibatkan preferensi pribadi, AI dapat membuat kesalahan seperti halnya manusia."

Tim peneliti menggabungkan skenario psikologis yang sudah dikenal ke dalam ChatGPT, menambahkan konteks praktis seperti manajemen inventaris atau negosiasi pemasok.

Patut dicatat bahwa model AI masih menunjukkan bias kognitif bahkan ketika konteks pertanyaan dialihkan dari konteks abstrak ke konteks bisnis praktis.

GPT-4 lebih pintar, tetapi tidak sempurna.

GPT-4 adalah versi yang ditingkatkan dari GPT-3.5 yang unggul dalam memecahkan masalah logika atau probabilitas. Namun, dalam simulasi subjektif, seperti memilih opsi berisiko untuk meningkatkan keuntungan, GPT-4 menunjukkan kecenderungan untuk berperilaku lebih emosional daripada manusia.

Secara khusus, studi tersebut mencatat bahwa GPT-4 secara konsisten memberikan respons yang bias dalam skenario pengujian bias konfirmasi dan lebih rentan terhadap "kekeliruan tangan panas," yaitu kecenderungan untuk percaya bahwa peristiwa acak akan berulang secara berurutan, daripada GPT-3.5.

Sebaliknya, AI berpotensi untuk menghindari beberapa bias yang sering dilakukan manusia, seperti mengabaikan kelalaian tingkat dasar atau kekeliruan biaya tenggelam.

Alasan ChatGPT menunjukkan bias seperti manusia berasal dari data pelatihannya, yang dipenuhi dengan perilaku dan pola pikir kita sendiri yang keliru. - Gambar: AI

Asal mula bias AI: Dari data manusia itu sendiri.

Menurut tim peneliti, alasan ChatGPT menunjukkan bias seperti manusia berasal dari data pelatihan itu sendiri, yang penuh dengan perilaku dan pola pikir kita yang keliru. Fakta bahwa AI disempurnakan berdasarkan umpan balik manusia semakin memperkuat kecenderungan ini, karena model tersebut "diberi penghargaan" untuk respons yang tampak masuk akal, bukan yang sepenuhnya akurat.

"Untuk hasil yang akurat dan tidak bias, gunakan AI untuk tugas-tugas yang sudah Anda percayai dapat ditangani dengan baik oleh komputer," saran Dr. Chen. "Namun, untuk masalah strategis atau emosional, pengawasan dan intervensi manusia tetap diperlukan, meskipun hanya dengan menulis ulang pertanyaannya."

Penulis bersama Meena Andiappan, profesor madya sumber daya manusia dan manajemen di Universitas McMaster (Kanada), berpendapat: "AI harus dipandang sebagai karyawan dengan kekuatan pengambilan keputusan yang signifikan, artinya perlu diawasi dan mematuhi prinsip-prinsip etika. Jika tidak, kita secara tidak sengaja mengotomatiskan pemikiran yang salah alih-alih memperbaikinya."

Baca selengkapnya Kembali ke halaman utama

Kembali ke topik

MINH HAI

Sumber: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm