Kekhawatiran bahwa AI dapat membaca pikiran dan memanipulasi keputusan manusia

(CLO) Penelitian terbaru dari Universitas Cambridge telah mengungkap kebenaran yang mengkhawatirkan: AI bukan sekadar alat pendukung tetapi juga memiliki kemampuan untuk memanipulasi pikiran kita, mengubah kita menjadi boneka dalam permainan teknologi.

Para peneliti telah menciptakan konsep baru yang disebut " ekonomi niat". Dalam ekonomi ini, perusahaan dapat mengumpulkan dan menganalisis data dalam jumlah besar tentang perilaku, preferensi, dan kebiasaan kita untuk memprediksi apa yang akan kita lakukan selanjutnya.

Mereka kemudian dapat menjual informasi ini ke bisnis lain yang ingin menargetkan iklan mereka kepada kami secara lebih tepat.

AI memiliki kemampuan untuk membentuk pikiran dan tindakan kita. Ilustrasi: AI

Misalnya, katakanlah Anda sedang mencari ponsel baru. AI akan melacak perilaku online Anda, kata kunci yang Anda cari, dan bahkan percakapan Anda untuk lebih memahami kebutuhan Anda. Perusahaan ponsel kemudian dapat menggunakan informasi ini untuk menampilkan iklan tentang ponsel yang paling sesuai untuk Anda.

"Jika dibiarkan, ekonomi yang berorientasi pada niat dapat menjadi alat untuk memanipulasi keputusan kita," Dr. Jonnie Penn, sejarawan teknologi di Universitas Cambridge, memperingatkan. "Perusahaan dapat menggunakan AI untuk membuat kita membeli produk yang tidak kita butuhkan, atau bahkan memengaruhi keputusan kita dalam memilih."

Para penulis juga mengatakan bahwa model AI akan memandu percakapan untuk melayani pengiklan, bisnis, dan pihak ketiga lainnya. Pengiklan akan dapat menggunakan perangkat yang dihasilkan AI untuk membuat iklan online yang disesuaikan.

Laporan tersebut mengutip contoh model AI yang diciptakan oleh Meta, yang disebut Cicero, yang mencapai kemampuan “tingkat manusia” untuk memainkan permainan papan Diplomacy — sebuah permainan yang menurut para penulisnya bergantung pada penyimpulan dan prediksi niat lawan.

Para ahli terkemuka di bidang teknologi telah memperingatkan tentang kemampuan AI untuk memprediksi dan memengaruhi perilaku manusia.

Secara spesifik, CEO Nvidia Jensen Huang menyampaikan pandangan penting dalam pidatonya tahun lalu. Ia berpendapat bahwa model AI canggih akan mampu "mencari tahu apa niat Anda, apa keinginan Anda, apa yang Anda coba lakukan, dan menyajikan informasi kepada Anda dengan cara terbaik."

Hoang Anh (menurut CUN, Nvidia, Wali)

Sumber: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html