Kebimbangan bahawa AI boleh membaca fikiran dan memanipulasi keputusan manusia

(CLO) Penyelidikan terbaru dari Universiti Cambridge telah mendedahkan kebenaran yang membimbangkan: AI bukan sekadar alat sokongan tetapi juga mempunyai keupayaan untuk memanipulasi pemikiran kita, menjadikan kita boneka dalam permainan teknologi.

Penyelidik telah mencipta konsep baharu yang dipanggil " ekonomi niat." Dalam ekonomi ini, syarikat boleh mengumpul dan menganalisis sejumlah besar data tentang tingkah laku, keutamaan dan tabiat kami untuk meramalkan perkara yang akan kami lakukan seterusnya.

Mereka kemudiannya boleh menjual maklumat ini kepada perniagaan lain yang ingin menyasarkan pengiklanan mereka kepada kami dengan lebih tepat.

AI mempunyai keupayaan untuk membentuk pemikiran dan tindakan kita. Ilustrasi: AI

Sebagai contoh, katakan anda sedang mencari telefon baharu. AI akan menjejaki tingkah laku dalam talian anda, kata kunci yang anda cari, dan juga perbualan anda untuk lebih memahami keperluan anda. Syarikat telefon kemudiannya boleh menggunakan maklumat ini untuk memaparkan kepada anda iklan tentang telefon yang paling sesuai untuk anda.

Dr Jonnie Penn, ahli sejarah teknologi di University of Cambridge, telah memberi amaran: "Jika dibiarkan, ekonomi niat boleh menjadi alat untuk memanipulasi keputusan kami. Syarikat boleh menggunakan AI untuk membuatkan kami membeli produk yang kami tidak perlukan, malah mempengaruhi keputusan pengundian kami."

Penulis juga mengatakan bahawa model AI akan menavigasi perbualan untuk melayani pengiklan, perniagaan dan pihak ketiga yang lain. Pengiklan akan dapat menggunakan alatan AI yang terhasil untuk membuat iklan dalam talian tersuai.

Laporan itu memetik contoh model AI yang dicipta oleh Meta, dipanggil Cicero, yang mencapai keupayaan "peringkat manusia" untuk bermain permainan papan Diplomasi - permainan yang menurut pengarang bergantung pada membuat kesimpulan dan meramalkan niat pihak lawan.

Pakar terkemuka dalam bidang teknologi telah memberi amaran tentang keupayaan AI untuk meramal dan mempengaruhi tingkah laku manusia.

Secara khusus, Ketua Pegawai Eksekutif Nvidia Jensen Huang berkongsi pandangan yang ketara dalam ucapan tahun lepas. Dia berhujah bahawa model AI lanjutan akan dapat "mengetahui niat anda, keinginan anda, apa yang anda cuba lakukan, dan menyampaikan maklumat kepada anda dengan cara yang terbaik."

Hoang Anh (menurut CUN, Nvidia, Guardian)

Sumber: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html