Kepintaran buatan boleh menyebabkan krisis kewangan yang 'menghancurkan'

Dalam temu bual dengan The Guardian , pengarang buku "Sapiens: A Brief History of Humankind" berkata, tidak seperti senjata nuklear, masalah yang dibawa oleh model AI tidak terhad kepada satu senario besar.

Dengan AI, terdapat banyak senario berbahaya, yang setiap satunya berpotensi untuk menggabungkan dan menimbulkan ancaman wujud kepada tamadun manusia.

Pengisytiharan pelbagai hala di Sidang Kemuncak Keselamatan AI Global di Bletchley Park, UK, merupakan "langkah ke hadapan yang sangat penting" kerana kerajaan terkemuka berkumpul untuk menyatakan kebimbangan mengenai teknologi dan melakukan sesuatu mengenainya, kata Encik Harari.

“Tanpa kerjasama global, ia akan menjadi amat sukar, jika tidak mustahil, untuk membendung potensi AI yang paling berbahaya,” katanya.

Sidang kemuncak itu diakhiri dengan perjanjian antara 10 kerajaan dan syarikat AI utama, termasuk pembangun ChatGPT OpenAI dan Google, untuk bekerjasama dalam menguji model AI lanjutan sebelum dan selepas ia dikeluarkan.

Pengarang Yuval Noah Harari menggariskan risiko kecerdasan buatan kepada tamadun manusia dalam temu bual dengan The Guardian. (Foto: Antonio Olmos)

Penulis Sapiens berpendapat bahawa satu masalah dengan menguji keselamatan model adalah perlu meramalkan setiap masalah yang mungkin ditimbulkan.

AI berbeza daripada setiap teknologi terdahulu dalam sejarah manusia kerana ia adalah teknologi pertama yang boleh membuat keputusan, menjana idea baharu, dan belajar serta berkembang sendiri.

Mengikut definisinya, amat sukar bagi manusia - malah "bapa" AI - untuk meramalkan semua potensi bahaya dan masalah.

Kerajaan telah menimbulkan ancaman sistem AI yang membantu mencipta bioweapon, tetapi terdapat senario lain yang boleh dipertimbangkan.

Encik Harari menegaskan bahawa kewangan adalah bidang yang sesuai untuk sistem AI kerana data dan AI sahaja boleh mencipta krisis yang serius.

"Bagaimana jika AI bukan sahaja diberi kawalan yang lebih besar ke atas sistem kewangan dunia , tetapi juga mula mencipta peranti kewangan baharu yang hanya AI boleh faham dan manusia tidak boleh," tanya Harari.

Krisis kewangan 2007-2008 disebabkan oleh instrumen hutang seperti obligasi hutang bercagar (CDO) yang kurang difahami dan oleh itu tidak dikawal dengan secukupnya, tambah ahli sejarah itu.

"AI mempunyai potensi untuk mencipta peranti kewangan yang lebih kompleks daripada CDO. Bayangkan sahaja situasi di mana kita mempunyai sistem kewangan yang tidak dapat difahami oleh manusia dan oleh itu tidak dapat dikawal," katanya. "Dan kemudian terdapat krisis kewangan di mana tiada siapa yang memahami apa yang sedang berlaku."

Bulan lalu, kerajaan UK membangkitkan kebimbangan mengenai model AI canggih yang boleh menimbulkan ancaman wujud dengan mengawal dan memanipulasi sistem kewangan.

Tetapi Encik Harari percaya krisis kewangan yang dijana oleh AI tidak akan memusnahkan tamadun manusia, "sekurang-kurangnya tidak secara langsung".

"Ia boleh, secara tidak langsung, jika ia mencetuskan beberapa jenis peperangan atau konflik. Ia adalah risiko bencana - ekonomi, sosial, politik ," tambahnya.

Pengarang Israel, yang menyokong gesaan untuk menghentikan pembangunan AI lanjutan selama enam bulan dan memastikan syarikat AI bertanggungjawab atas kerosakan yang disebabkan oleh produk mereka, berkata tumpuan tidak seharusnya tertumpu pada peraturan dan undang-undang tertentu tetapi pada organisasi kawal selia yang bijak teknologi yang boleh bertindak balas dengan cepat apabila penemuan baharu muncul.

"Kita perlu mewujudkan institusi kawal selia yang kukuh secepat mungkin yang mampu mengenal pasti dan bertindak balas terhadap bahaya apabila ia timbul, berdasarkan pemahaman bahawa kita tidak boleh meramalkan semua bahaya dan masalah terlebih dahulu."

"Ini sepatutnya menjadi usaha utama, bukan menulis peraturan yang sangat panjang dan rumit yang pada masa ia diluluskan oleh Kongres mungkin ketinggalan zaman," katanya.

Institut penyelidikan keselamatan AI harus mengupah pakar yang memahami potensi kesan AI terhadap dunia kewangan, kata Encik Harari.

Bulan lepas, Canselor British Rishi Sunak mengumumkan penciptaan institut keselamatan AI UK. Beberapa hari kemudian, Rumah Putih mengumumkan rancangan untuk menubuhkan badan serupa. Kedua-duanya dijangka memainkan peranan penting dalam menguji model AI lanjutan.

Bercakap pada sidang kemuncak itu, Encik Sunak berkata Britain perlu memahami keupayaan model AI lanjutan sebelum memperkenalkan undang-undang untuk menanganinya.

(Menurut The Guardian)

Aplikasi AI, GraphCast meramalkan ramalan cuaca 10 hari paling tepat di dunia

Makmal DeepMind Google di UK telah membangunkan sistem GraphCast, aplikasi kecerdasan buatan (AI) yang mampu menyediakan ramalan cuaca 10 hari yang paling tepat di dunia.

Kuasa gabungan AI dan pengkomputeran awan

Gabungan kecerdasan buatan (AI) dan pengkomputeran awan adalah trend yang tidak dapat dihalang yang membentuk semula industri global.

Elon Musk dan Jensen Huang tidak bersetuju mengenai kecerdasan buatan dan pekerjaan Sementara Elon Musk meramalkan bahawa kecerdasan buatan (AI) akan mewujudkan dunia 'tanpa pekerjaan', Ketua Pegawai Eksekutif Nvidia Jensen Huang menegaskan bahawa 'manusia mempunyai banyak idea'.

Sumber