AI boleh menjadi lebih pintar daripada manusia dalam masa kira-kira 20 tahun

Amaran bahawa AI boleh menjadi lebih pintar daripada manusia dalam tempoh 20 tahun akan datang, Profesor Geoffrey Hinton berkata ini adalah situasi yang tidak pernah dihadapi oleh manusia.

Dalam rangka kerja Minggu Sains dan Teknologi VinFuture 2025, perbincangan panel " AI untuk kemanusiaan: Etika dan keselamatan AI dalam era baharu " membincangkan salah satu topik yang paling mendesak hari ini: Pembangunan AI yang bertanggungjawab, ke arah nilai kemanusiaan dan untuk kebaikan bersama manusia.

Para saintis berbincang di seminar itu.

Menghantar mesej video ke perbincangan panel, Profesor Geoffrey Hinton - pemenang Hadiah Nobel dalam Fizik 2024 dan diberi penghormatan sebagai "Bapa AI", berkata bahawa AI berkembang dengan sangat pesat, membawa kedua-dua faedah besar dan potensi risiko.

Dari segi positif, Encik Hinton berkata, AI mencipta peningkatan besar dalam penjagaan kesihatan, pendidikan, pembangunan ubat baharu, bahan baharu atau mana-mana bidang yang memerlukan ramalan, mencipta lonjakan dalam produktiviti.

" Ini berfaedah jika ia diagihkan secara adil dalam masyarakat ," tegas Profesor itu.

Sebaliknya, AI secara beransur-ansur menjadi lebih baik dalam mereka bentuk virus berbahaya atau serangan siber; mencipta video palsu; menyebabkan pengangguran beramai-ramai...

" Pakar AI percaya bahawa kita akan membangunkan sistem yang lebih pintar daripada manusia. Terdapat banyak pandangan berbeza tentang bila itu akan berlaku, tetapi kebanyakannya meramalkan dalam tempoh 20 tahun akan datang. Dan kita perlu segera memikirkan cara untuk hidup dengan entiti yang lebih bijak daripada diri kita sendiri. Ini adalah situasi yang tidak pernah dihadapi oleh manusia sebelum ini, ia baru dan kita perlu melakukan banyak penyelidikan sebelum itu berlaku , "kata Profesor Hinton.

Menurut Profesor Geoffrey Hinton, saintis dan jurutera mempunyai tanggungjawab untuk mencari cara yang lebih kukuh untuk memastikan AI sejajar dengan nilai kemanusiaan, dan mesti membantu orang ramai dan ahli politik lebih memahami sifat AI untuk membuat keputusan yang betul.

Profesor Yoshua Bengio berkongsi di seminar itu.

Sementara itu, Profesor Yoshua Bengo - dikenali sebagai "bapa pembelajaran mendalam" dan pemenang Anugerah Turing 2018, berkata AI berpotensi membawa manfaat besar untuk membantu menyelesaikan banyak cabaran mendesak pada masa itu, tetapi ini hanya berlaku apabila kita membimbingnya dengan bijak.

Dia memetik simulasi terbaru yang menunjukkan sistem AI boleh berkelakuan berbahaya, seperti memeras ugut, menipu, atau mengutamakan kelangsungan hidup mereka sendiri daripada keselamatan manusia. Di samping itu, beberapa ciri model AI popular hari ini boleh menyebabkan pengguna membentuk ikatan emosi yang kuat dengan cara yang tidak sihat.

" Pada tahap yang melampau, keterikatan ini boleh membahayakan kesihatan mental, terutamanya bagi orang yang terdedah yang berisiko mencederakan diri sendiri, malah bunuh diri atau psikosis yang disebabkan oleh AI ," kata Profesor Bengo.

Daripada realiti ini, menurut Encik Bengo, kita mesti meningkatkan keselamatan untuk AI yang canggih dan bukannya hanya menumpukan pada membangunkannya untuk menjadikannya lebih kuat.

" Keselamatan dan kepercayaan bukanlah faktor sekunder tetapi penting dalam proses pembangunan, ke arah manfaat manusia. Kita perlu bertindak bersama di peringkat dasar dan saintifik ," tegas Profesor Yoshua Bengo.

Menurut Profesor Yoshua Bengo, dari segi dasar, dunia memerlukan kerjasama antarabangsa. Dari segi sains, adalah perlu untuk lebih memahami cara mereka bentuk AI yang unggul dalam keupayaan dan tidak berbahaya kepada manusia.

Khususnya, pakar itu menyatakan, mengekalkan keupayaan untuk mengawal AI untuk berkelakuan selamat walaupun manusia meminta mereka melakukan salah; membina halangan teknikal dan sosial untuk memastikan AI konsisten dengan norma, niat, nilai dan minat manusia.

Dari perspektif lain, Dr. Vinton Gray Cerf - salah seorang "bapa Internet", berkongsi pengajaran daripada lebih 50 tahun pembangunan Internet untuk memberi penerangan tentang era AI.

Beliau menggariskan empat pengajaran utama daripada Internet: Kesalinghubungan adalah segala-galanya; komunikasi hujung ke hujung mestilah selamat; sistem mestilah global, dan seni bina mestilah cukup terbuka untuk membolehkan inovasi berterusan.

" Tetapi internet juga menunjukkan bahawa tidak mahu namanya disiarkan secara mutlak menyukarkan akauntabiliti. Pada zaman AI, akauntabiliti itu menjadi lebih mendesak kerana teknologi boleh mencipta kandungan palsu, memanipulasi maklumat dan mengganggu masyarakat, " kata Dr. Vinton Gray Cerf, dengan alasan bahawa memupuk kepercayaan digital - berdasarkan ketelusan, identiti dan kerjasama antarabangsa - merupakan asas yang sangat diperlukan untuk tadbir urus AI.

Inggeris

Sumber: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html