Dunia belum bersedia untuk membangunkan AI sepintar otak manusia.

Dunia tidak bersedia untuk kecerdasan am buatan (AGI), atau titik di mana kecerdasan buatan adalah pintar seperti otak manusia, menurut seorang penyelidik kanan di OpenAI.

Adakah kecerdasan buatan am berisiko?

Selama bertahun-tahun, penyelidik telah membuat spekulasi tentang kemunculan kecerdasan am buatan, atau AGI, di mana sistem buatan akan dapat mengendalikan pelbagai tugas serta manusia. Ramai yang melihat kemunculannya sebagai risiko wujud, kerana ia boleh membenarkan komputer beroperasi dengan cara yang tidak dapat dibayangkan oleh manusia.

Menurut Encik Miles Brindage, dunia tidak bersedia untuk masa kecerdasan am buatan (AGI).

Kini, lelaki yang ditugaskan untuk memastikan pembangun ChatGPT OpenAI bersedia untuk AGI mengakui bahawa dunia mahupun syarikat itu sendiri tidak "bersedia" untuk langkah seterusnya. Miles Brundage berkhidmat sebagai "penasihat kanan OpenAI mengenai kesediaan AGI," tetapi mengumumkan pemergiannya minggu ini apabila syarikat itu membubarkan kumpulan itu.

"OpenAI atau mana-mana makmal perintis lain tidak bersedia (untuk AGI), dan begitu juga dunia. Untuk menjadi jelas, saya tidak fikir ini adalah kenyataan kontroversi di kalangan kepimpinan OpenAI, tetapi lebih kepada persoalan sama ada syarikat dan dunia berada di landasan untuk bersedia pada masa yang tepat," kata Brundage, yang telah menghabiskan enam tahun membantu membentuk inisiatif keselamatan AI syarikat.

Pemergian Brundage menandakan yang terbaru dalam satu siri perlepasan yang ketara daripada pasukan keselamatan OpenAI. Jan Leike, seorang penyelidik terkemuka, pergi selepas mengatakan bahawa "budaya dan proses keselamatan telah mengambil tempat duduk belakang untuk produk berkilat." Pengasas bersama Ilya Sutskever juga meninggalkan untuk melancarkan permulaan AInya sendiri yang memberi tumpuan kepada membangunkan AGI yang selamat.

Pembubaran kumpulan "AGI Readiness" oleh Brundage berlaku hanya beberapa bulan selepas syarikat itu membubarkan kumpulan "Superalignment" yang didedikasikan untuk mengurangkan risiko AI jangka panjang, mendedahkan ketegangan antara misi asal OpenAI dan cita-cita komersialnya.

Tekanan keuntungan menolak OpenAI dari laluan selamat

OpenAI dilaporkan menghadapi tekanan untuk beralih daripada syarikat bukan untung kepada syarikat untung dalam masa dua tahun — atau berisiko kehilangan pembiayaan daripada pusingan pelaburan $6.6 bilion baru-baru ini. Peralihan ke arah pengkomersilan ini telah lama menjadi kebimbangan Brundage, yang telah menyatakan tempahan sejak 2019 apabila OpenAI mula-mula menubuhkan bahagian untungnya.

Ketua Pegawai Eksekutif OpenAI Sam Altman sedang mengalami "sakit kepala" kerana tekanan syarikat itu untuk mencari keuntungan.

Dalam menjelaskan pemergiannya, Brundage memetik peningkatan sekatan terhadap kebebasannya untuk menyelidik dan menerbitkan di syarikat terkemuka itu. Beliau menekankan keperluan untuk suara bebas dalam perbincangan dasar AI, bebas daripada berat sebelah industri dan konflik kepentingan. Setelah menasihati kepimpinan OpenAI mengenai persediaan dalaman, beliau percaya beliau kini boleh memberi impak yang lebih besar terhadap tadbir urus AI global dari luar organisasi.

Pemergian ini juga mencerminkan jurang budaya yang lebih mendalam dalam OpenAI. Ramai penyelidik menyertai untuk memajukan penyelidikan AI dan kini mendapati diri mereka berada dalam persekitaran yang semakin dipacu produk. Peruntukan sumber dalaman telah menjadi titik kilat—laporan menunjukkan bahawa pasukan Leike telah dinafikan kuasa pengkomputeran untuk penyelidikan keselamatan sebelum ia dibubarkan.

OpenAI telah menghadapi soalan dalam beberapa bulan kebelakangan ini tentang rancangannya untuk membangunkan kecerdasan buatan dan betapa seriusnya ia mengambil keselamatan. Walaupun diasaskan sebagai organisasi bukan untung yang berdedikasi untuk menyelidik cara membina kecerdasan buatan yang selamat, kejayaan ChatGPT telah membawa pelaburan dan tekanan yang besar untuk menggunakan teknologi baharu untuk keuntungan.

Sumber: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm