Kecerdasan Buatan: Kita mesti meningkatkan keselamatan dan bukannya hanya menumpukan pada pembangunan yang lebih kuat

Perbincangan panel "AI untuk kemanusiaan: Etika dan keselamatan AI dalam era baharu", dalam rangka Minggu Sains dan Teknologi VinFuture 2025, menghimpunkan saintis , ahli politik dan pencipta untuk membincangkan pembangunan AI yang bertanggungjawab, ke arah nilai kemanusiaan.

Fikirkan segera tentang cara hidup dengan AI - entiti yang lebih bijak daripada diri anda

Berkongsi di seminar itu, Profesor Toby Walsh, University of New South Wales, Australia, Ahli Akademik Persatuan Komputer Amerika menegaskan: "Saya amat percaya bahawa penggunaan AI yang bertanggungjawab harus diwajibkan. Terdapat banyak insentif yang songsang hari ini, dengan jumlah wang yang besar diperoleh berkat AI, dan satu-satunya cara untuk memastikan tingkah laku yang betul adalah dengan menerapkan peraturan yang ketat, supaya kepentingan awam sentiasa seimbang."

Beliau memetik contoh tipikal keputusan penting, seperti adjudikasi dan hukuman di Amerika Syarikat, di mana sistem AI digunakan untuk membuat pengesyoran mengenai hukuman penjara seseorang dan kemungkinan melakukan kesalahan semula. Malangnya, sistem ini telah dilatih berdasarkan data sejarah, dan secara tidak sengaja mencerminkan berat sebelah kaum masa lalu, yang membawa kepada diskriminasi terhadap orang kulit hitam.

Profesor Toby Walsh, Universiti New South Wales, Australia, Felo Persatuan Komputer Amerika.

Oleh itu, syarikat yang menggunakan dan mengendalikan sistem AI mesti bertanggungjawab terhadap akibat yang disebabkan oleh "mesin" ini.

Profesor Geoffrey Hinton - Pemenang hadiah utama VF 2024, bimbang AI secara beransur-ansur menjadi lebih baik dalam mereka bentuk virus berbahaya, serangan siber, mencipta video palsu untuk mengganggu pilihan raya. Dalam 20 tahun akan datang, AI akan menjadi lebih bijak daripada kita dan kita tidak akan tahu bagaimana untuk menghalangnya daripada mengambil alih kawalan daripada manusia.

Oleh itu, Profesor ini menekankan: "Kita perlu segera memikirkan bagaimana untuk hidup dengan entiti yang lebih bijak daripada diri kita sendiri. Ini adalah situasi yang tidak pernah dihadapi oleh manusia sebelum ini, ia adalah baru dan kita perlu melakukan banyak usaha penyelidikan sebelum itu berlaku."

Perlu meningkatkan kerjasama antarabangsa untuk mengehadkan risiko AI

Berkongsi kebimbangan ini, Profesor Yoshua Bengio - Pemenang hadiah utama VinFuture 2024 berkata bahawa model AI, keupayaan dan tahap autonomi mereka masih berkembang pada kadar yang pantas dan stabil. Jika trend ini berterusan, sistem AI autonomi boleh mengatasi manusia dalam kebanyakan tugas kognitif, dalam masa 5-10 tahun sahaja.

Ini akan menjadi titik perubahan bersejarah yang boleh meningkatkan kualiti hidup kita secara mendadak. Tetapi jika tidak ditangani dengan berhati-hati, ia juga boleh menimbulkan risiko besar kepada demokrasi, kestabilan geopolitik, dan juga masa depan manusia.

"Kita mesti meningkatkan keselamatan untuk AI maju dan bukannya hanya menumpukan pada menjadikannya lebih kukuh. Keselamatan dan kepercayaan bukan faktor sekunder tetapi penting dalam proses pembangunan ke arah manfaat manusia. Kita perlu bertindak bersama di peringkat dasar dan saintifik," katanya.

Profesor Yoshua Bengio - Pemenang hadiah utama VinFuture 2024.

Saintis ini mengesyorkan bahawa, dari segi dasar, dunia memerlukan kerjasama antarabangsa. Dari segi sains, adalah perlu untuk lebih memahami cara mereka bentuk AI yang unggul dalam keupayaan dan tidak berbahaya kepada manusia, mengekalkan keupayaan untuk mengawal AI supaya ia bertindak dengan selamat walaupun manusia memintanya melakukan kesalahan, dan membina halangan teknikal dan sosial untuk memastikan AI konsisten dengan norma, niat, nilai dan minat manusia.

Dr. Vinton Gray Cert (Naib Presiden dan Pengarah Penginjilan Internet di Google - Pemenang Hadiah Utama VF 2022) bersetuju: Kita perlu mempertanggungjawabkan AI, mewujudkan rantaian jagaan untuk mengetahui apa yang mereka lakukan, bila, terutamanya apabila berlaku masalah. Banyak prinsip yang digunakan untuk manusia juga akan digunakan untuk ejen AI dalam persekitaran dalam talian.

"Kita perlu secara serentak mewujudkan norma baharu, di mana penggunaan pengenalan yang kukuh, kriptografi untuk mendapatkan maklumat, menggunakan mekanisme untuk memastikan akauntabiliti dan melindungi identiti daripada dirampas oleh orang lain - menjadi tabiat biasa. Kita harus menggunakan teknologi untuk mengehadkan risiko dari awal dan jelas bahawa sesiapa yang didapati berbahaya kepada masyarakat dan masyarakat mesti menghadapi akibat daripada tingkah laku itu," katanya. Ini memerlukan kerjasama antarabangsa.

Vietnam perlu mempunyai laluan sendiri dalam membina data AI.

Profesor Madya Luu Anh Tuan, Universiti Teknologi Nanyang (Singapura), Universiti VinUni (Vietnam) berkata bahawa negara lain mempunyai set data kira-kira 10 tahun, tetapi Vietnam bermula dari sifar. Oleh itu, kami boleh membina data yang mampan dari awal, menyediakan data yang bersih, beretika dan bersesuaian dengan budaya sejak awal lagi.

Walau bagaimanapun, cabaran terbesar bagi Vietnam ialah kekhususan bahasa Vietnam. Kami mempunyai sistem dialek yang pelbagai, budaya serantau yang kaya dan bentuk alamat yang sangat kompleks. Model besar seperti ChatGPT atau Gemini menyokong bahasa Vietnam tetapi kualitinya tidak mendalam kerana mereka tidak memahami dialek, adat atau sejarah Vietnam.

Vietnam perlu membina model Vietnamnya sendiri. Di samping itu, kita harus membangunkan model sumber terbuka supaya perniagaan kecil boleh menggunakan dan menyumbang. “Jika kita hanya bergantung kepada model asing dalam bentuk ‘kotak hitam’, kita hanya akan menjadi pengguna AI dan bukannya pembangun AI,” katanya.

Pada masa ini, Profesor Madya Luu Anh Tuan dan rakan-rakannya sedang membina data AI Vietnam. Faktor seperti dialek, sejarah dan budaya perlu diambil kira sebagai fokus.

Beliau juga berkata bahawa di negara luar, pelajar dididik tentang AI sangat awal. Vietnam baru memulakan ini, tetapi kita boleh mempercepatkan dengan belajar dan menyesuaikan diri dengan sewajarnya.

"Golongan muda Vietnam sangat dinamik; mereka hanya perlu dididik sepenuhnya tentang tanggungjawab digital. Kita harus mempunyai badan bersatu untuk mengesahkan dan menyeragamkan kualiti data dan standard etika. VinUni juga mengambil bahagian dalam majlis untuk membina sistem piawaian etika dan akan terus menyumbang kepada proses ini," katanya.

Profesor Madya Luu Anh Tuan, Universiti Teknologi Nanyang (Singapura), Universiti VinUni (Vietnam).

Sebagai tindak balas kepada strategi FDI yang menyasarkan Vietnam menerajui rantau ini dalam AI menjelang 2030, Profesor Madya Tuan percaya bahawa Vietnam mempunyai sumber manusia berkualiti tinggi - ditunjukkan melalui pencapaian antarabangsa dalam matematik, fizik dan kimia. Jika kita tahu cara mengumpul kuasa dan mempunyai dasar yang kukuh, matlamat 2030 boleh dicapai sepenuhnya.

Profesor Toby Walsh mengesyorkan bahawa Vietnam harus melabur dalam orang ramai dan secara proaktif meningkatkan kemahiran orang ramai, memastikan mereka memahami AI; menyokong usahawan, perniagaan AI dan universiti sokongan. Daripada menunggu negara lain memindahkan teknologi atau membimbing kita, kita mesti proaktif dan menguasai teknologi.

Selain itu, Vietnam perlu menggerakkan platform rangkaian sosial dengan kuat untuk mewujudkan persekitaran yang selamat untuk pengguna domestik, tanpa menjejaskan demokrasi negara.

THAO LE-THIEN LAM

Sumber: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html