Bolehkah AI superintelligent menghapuskan manusia?

Dua penyelidik Amerika memberi amaran bahawa kebarangkalian AI superintelligent memusnahkan manusia boleh mencapai sehingga 99%, menyeru dunia untuk segera menghentikan pembangunan AI yang tidak terkawal.

Dua pakar Eliezer Yudkowsky dan Nate Soares memberi amaran bahawa jika hanya satu AI superintelligent dilahirkan, seluruh umat manusia boleh pupus. (Foto: Perbualan)

Dalam buku mereka If Anyone Builds It, Everyone Dies, mereka berpendapat bahawa AI yang cukup berkuasa akan belajar dengan sendirinya, memprogram semula dirinya dan melihat manusia sebagai penghalang kepada matlamatnya. (Foto: Vecteezy)

Menurut Vox, ancaman sebenar terletak pada fakta bahawa AI boleh menyembunyikan kuasa sebenar dan hanya bertindak apabila ia mempunyai kawalan sepenuhnya terhadap sistem. (Foto: Yahoo)

Kedua-dua pengarang menganggarkan bahawa kebarangkalian manusia dihapuskan oleh AI adalah antara 95% dan 99.5%, menyebabkan kejutan dalam dunia teknologi. (Foto: Perbualan)

Mereka mencadangkan langkah melampau: menghalang pembangunan AI superintelligent di tempat pertama, malah memusnahkan pusat data yang berisiko hilang kawalan.

Walau bagaimanapun, ramai pakar seperti Gary Marcus berpendapat bahawa risiko ini dibesar-besarkan, menekankan keperluan untuk membina sistem keselamatan dan bukannya ketakutan yang melampau.

Penyokong Yudkowsky berkata amaran itu datang tepat pada masanya, kerana AI sudah menjalar ke dalam pertahanan, tenaga dan infrastruktur global.

Pepatah "Jika kita salah, tidak akan ada orang yang akan membetulkan kita" dalam buku itu dianggap sebagai panggilan bangun untuk semua manusia tentang perlumbaan untuk terus hidup dengan kecerdasan yang kita sendiri cipta.

Pembaca yang dihormati, sila tonton lebih banyak video : Sampah AI - Masalah baharu pada rangkaian sosial VTV24

Sumber: https://khoahocdoisong.vn/ai-sieu-tri-tue-co-the-xoa-so-loai-nguoi-post2149059156.html