Apakah yang perlu Vietnam lakukan untuk mengelakkan risiko menjadi sumber yang murah?

(Dan Tri) - Dalam konteks bahawa Vietnam adalah salah satu negara perintis yang mempertimbangkan untuk mengisytiharkan Undang-undang AI, masalahnya bukan sahaja untuk mempromosikan teknologi tetapi juga untuk melindungi kedaulatan digital dan keselamatan rakyat.

Ledakan kecerdasan buatan (AI) membawa manfaat yang besar kepada manusia tetapi juga memerlukan akibat yang tidak terkira banyaknya: daripada prasangka perkauman, penipuan dalam talian yang canggih kepada risiko negara membangun menjadi "lombong data" murah.

Memandangkan realiti itu, adakah penggunaan AI yang bertanggungjawab adalah secara sukarela atau wajib? Apakah yang perlu Vietnam lakukan apabila membina koridor undang-undang untuk bidang ini?

Di luar acara Minggu Sains dan Teknologi VinFuture, wartawan itu berbual dengan Profesor Toby Walsh - Universiti New South Wales (Australia), Ahli Akademik Persatuan Komputer Amerika.

Profesor itu menawarkan pandangan tentang cara kami "berkelakuan" dengan AI, daripada menganggap "mesin" bertanggungjawab kepada petua untuk keluarga melindungi diri mereka daripada gelombang penipuan berteknologi tinggi.

Siapa yang bertanggungjawab untuk AI?

Profesor, adakah penggunaan AI yang bertanggungjawab adalah secara sukarela atau wajib? Dan bagaimana sebenarnya kita harus bertindak terhadap AI?

- Saya amat percaya bahawa penggunaan AI yang bertanggungjawab harus diwajibkan . Terdapat insentif songsang yang dimainkan , dengan sejumlah besar wang dibuat dengan AI, dan satu-satunya cara untuk memastikan tingkah laku yang betul adalah dengan mengenakan peraturan yang ketat , supaya kepentingan awam sentiasa seimbang dengan kepentingan komersial .

Apabila AI membuat kesilapan, siapa yang bertanggungjawab? Terutama dengan ejen AI, adakah kita mempunyai keupayaan untuk membetulkan mekanisme operasi mereka?

Masalah utama dengan AI membuat kesilapan ialah kita tidak boleh bertanggungjawab AI. AI bukan manusia – dan ini adalah kecacatan dalam setiap sistem perundangan di dunia . Hanya manusia yang boleh dipertanggungjawabkan atas keputusan dan tindakan mereka.

Tiba-tiba, kita mempunyai "ejen" baharu, AI, yang boleh—jika kita membenarkannya—membuat keputusan dan mengambil tindakan di dunia kita, yang menimbulkan cabaran: Siapa yang akan kita bertanggungjawab?

Jawapannya ialah: Syarikat yang menggunakan dan mengendalikan sistem AI mesti bertanggungjawab terhadap akibat yang disebabkan oleh "mesin" ini.

Banyak syarikat juga bercakap tentang AI yang bertanggungjawab. Bagaimana kita boleh mempercayai mereka? Bagaimanakah kita tahu mereka serius dan komprehensif, dan bukan hanya menggunakan "AI yang bertanggungjawab" sebagai gimik pemasaran?

- Kita perlu meningkatkan ketelusan. Adalah penting untuk memahami keupayaan dan batasan sistem AI. Kita juga harus "mengundi dengan melakukan", iaitu memilih untuk menggunakan perkhidmatan secara bertanggungjawab.

Saya benar-benar percaya bahawa cara perniagaan menggunakan AI secara bertanggungjawab akan menjadi pembeza dalam pasaran, memberikan mereka kelebihan komersial.

Jika syarikat menghormati data pelanggan, ia akan memberi manfaat dan menarik pelanggan. Perniagaan akan menyedari bahawa melakukan perkara yang betul bukan sahaja beretika, tetapi juga akan membantu mereka menjadi lebih berjaya. Saya melihat ini sebagai satu cara untuk membezakan antara perniagaan, dan perniagaan yang bertanggungjawab ialah perniagaan yang boleh kita rasa selesa untuk menjalankan perniagaan.

Vietnam perlu melindungi nilai budaya secara proaktif.

Vietnam adalah salah satu daripada beberapa negara yang mempertimbangkan untuk mengisytiharkan Undang-undang mengenai Kepintaran Buatan. Apakah penilaian anda tentang ini? Pada pendapat anda, bagi negara membangun seperti Vietnam, apakah cabaran berkaitan etika dan keselamatan dalam pembangunan AI?

- Saya sangat gembira kerana Vietnam adalah salah satu negara perintis yang akan mempunyai Undang-undang khusus mengenai Kepintaran Buatan. Ini penting kerana setiap negara mempunyai nilai dan budaya sendiri, dan memerlukan undang-undang untuk melindungi nilai tersebut.

Nilai dan budaya Vietnam berbeza daripada Australia, China dan Amerika Syarikat. Kami tidak boleh mengharapkan syarikat teknologi dari China atau Amerika Syarikat secara automatik melindungi budaya dan bahasa Vietnam. Vietnam mesti mengambil inisiatif untuk melindungi perkara ini.

Saya sedar bahawa pada masa lalu banyak negara membangun telah melalui tempoh penjajahan fizikal. Jika kita tidak berhati-hati, kita boleh melalui tempoh "penjajahan digital". Data anda akan dieksploitasi dan anda akan menjadi sumber yang murah.

Ini berisiko jika negara membangun membangunkan industri AI dengan cara yang hanya mengeksploitasi data tanpa mengawal atau melindungi kepentingan mereka sendiri.

Jadi bagaimana untuk mengatasi keadaan ini?

- Mudah sahaja: Melabur untuk orang ramai. Orang yang tingkatkan kemahiran, pastikan mereka memahami AI. Sokong usahawan, syarikat AI, sokongan universiti. Jadilah proaktif. Daripada menunggu negara lain memindahkan teknologi atau membimbing kita, kita mesti proaktif dan menguasai teknologi.

Profesor Toby Walsh berkongsi di Minggu Sains dan Teknologi VinFuture (Foto: Jawatankuasa Penganjur).

Kedua, kita perlu menyokong kuat platform media sosial untuk mewujudkan persekitaran yang selamat untuk pengguna di Vietnam, sambil tidak menjejaskan demokrasi negara.

Malah, terdapat banyak contoh bagaimana kandungan media sosial telah mempengaruhi keputusan pilihan raya, memecahbelahkan negara, dan juga menghasut keganasan.

Saya telah menghabiskan 40 tahun bekerja pada kecerdasan buatan. Untuk 30 tahun pertama, saya bimbang tentang cara menjadikan AI lebih berkuasa. Dalam 10 tahun yang lalu, saya semakin berminat dan lantang untuk membangunkan AI secara bertanggungjawab.

Bolehkah anda memberi sedikit nasihat kerana Vietnam sedang dalam proses menggubal Undang-undang mengenai Kepintaran Buatan?

- Terdapat banyak kes di mana undang-undang baru tidak diperlukan. Kita sudah ada undang-undang privasi, kita sudah ada undang-undang persaingan. Undang-undang sedia ada ini terpakai pada ruang digital, sama seperti ia terpakai kepada dunia fizikal.

Adalah penting untuk menguatkuasakan undang-undang ini dengan ketat dalam persekitaran digital seperti yang kita lakukan dalam persekitaran fizikal.

Walau bagaimanapun, terdapat beberapa risiko baharu yang muncul dan kami mula melihatnya. Orang ramai mula menjalin hubungan dengan AI, menggunakan AI sebagai ahli terapi dan kadangkala ia akan menyebabkan kemudaratan kepada pengguna, jadi kita perlu berhati-hati.

Kami sentiasa menganggap pengeluar bertanggungjawab apabila mereka mengeluarkan produk. Sebagai contoh, jika syarikat AI mengeluarkan produk AI yang membahayakan manusia, mereka juga harus bertanggungjawab.

Jadi bagaimana kita boleh menghalang AI daripada menyebabkan kesan berbahaya kepada kanak-kanak dan mewujudkan persekitaran yang selamat untuk kanak-kanak apabila AI muncul, tuan?

- Saya rasa kita tidak mendapat banyak pengajaran daripada media sosial. Banyak negara kini mula menyedari bahawa media sosial mempunyai manfaat yang besar tetapi juga banyak keburukan, terutamanya kesan kepada kesihatan mental, tahap kebimbangan dan imej badan anak muda, terutamanya kanak-kanak perempuan.

Banyak negara telah mula melaksanakan langkah-langkah untuk menangani isu ini. Di Australia, had umur untuk menggunakan media sosial akan berkuat kuasa pada 10 Disember. Saya fikir kita memerlukan langkah serupa untuk AI.

Kami sedang membina alatan yang boleh memberi kesan positif tetapi juga boleh menyebabkan kemudaratan, dan kami perlu melindungi minda dan hati anak-anak kami daripada kesan negatif ini.

Di samping itu, saya berharap negara juga akan mengeluarkan peraturan yang ketat untuk mengurus rangkaian sosial, dengan itu mewujudkan persekitaran yang benar-benar selamat untuk semua orang apabila menggunakan AI.

Malah, bukan sahaja kanak-kanak malah orang dewasa juga berdepan dengan risiko yang disebabkan oleh AI itu sendiri. Jadi bagaimana orang boleh menggunakan AI untuk memperbaiki kehidupan mereka dan tidak menjadi bahaya?

- AI digunakan dalam banyak bidang, membantu meningkatkan kualiti hidup kita. Dalam bidang perubatan, AI membantu menemui ubat baharu. Dalam pendidikan , AI juga membawa banyak faedah positif.

Walau bagaimanapun, memberi akses kepada AI tanpa perlindungan yang mencukupi adalah terlalu berisiko. Kami telah melihat tindakan undang-undang di AS di mana ibu bapa menyaman syarikat teknologi yang mendorong anak mereka membunuh diri selepas berinteraksi dengan chatbot AI.

Walaupun peratusan pengguna ChatGPT yang mengalami masalah kesihatan mental hanya beberapa peratus, dengan ratusan juta pengguna, jumlah sebenar adalah dalam ratusan ribu.

Data sangat penting untuk pembangunan AI, tetapi dari perspektif pengurusan, jika pengurusan data terlalu ketat, ia akan menghalang pembangunan AI. Pada pendapat anda, apakah bahaya yang boleh ditimbulkan oleh pengurusan data yang longgar? Bagaimana untuk mengimbangi pengumpulan data, pengurusan data yang selamat dengan mencipta pembangunan untuk AI?

- Saya benar-benar bersetuju. Data adalah teras kemajuan AI , kerana datalah yang memacunya. Tanpa data, kami tidak akan membuat sebarang kemajuan. Data berkualiti tinggi adalah teras kepada semua yang kami lakukan. Malah, nilai komersil dan kelebihan daya saing yang diperoleh syarikat datang daripada data. Sama ada kita mempunyai data berkualiti atau tidak, itu adalah isu utama.

Sungguh menjengkelkan apabila melihat buku pengarang di seluruh dunia - termasuk buku saya - digunakan tanpa kebenaran dan tanpa pampasan. Ia adalah perbuatan mencuri hasil kerja orang lain. Jika keadaan ini berterusan, penulis akan kehilangan motivasi untuk menulis buku, dan kita akan kehilangan nilai budaya yang kita hargai.

Kita perlu mencari penyelesaian yang lebih saksama daripada apa yang kita ada sekarang.

Pada masa ini, "Silicon Valley" mengambil kandungan dan kreativiti daripada pengarang tanpa membayarnya - ini tidak mampan. Saya membandingkan keadaan semasa dengan Napster dan hari-hari awal muzik dalam talian pada tahun 2000-an. Pada masa itu, muzik dalam talian semuanya "dicuri", tetapi itu tidak boleh bertahan selama-lamanya, kerana pemuzik memerlukan pendapatan untuk terus mencipta.

Akhir sekali, kami telah membayar sistem penstriman , seperti Spotify atau Apple Music, atau muzik yang disokong iklan, dengan sebahagian daripada hasil dikembalikan kepada artis. Kita perlu melakukan perkara yang sama dengan buku, supaya pengarang mendapat nilai daripada data mereka. Jika tidak, tiada siapa yang akan terdorong untuk menulis buku, dan dunia akan menjadi lebih teruk tanpa buku baharu ditulis.

Dalam rangka Minggu Sains dan Teknologi VinFuture, pameran "Toa V - Touchpoint of Science" juga akan berlangsung di Pusat Seni Kontemporari Vincom Royal City (Foto: Jawatankuasa Penganjur).

AI sangat maju di Vietnam. Sejak kebelakangan ini, Vietnam mempunyai banyak dasar untuk mempromosikan AI, tetapi Vietnam juga menghadapi masalah, iaitu penipuan yang disebabkan oleh AI. Jadi, menurut Profesor, bagaimana Vietnam harus menangani situasi ini? Apakah nasihat Profesor untuk mereka yang menggunakan AI hari ini untuk memastikan keselamatan dan melindungi data mereka?

- Bagi setiap individu, saya rasa cara paling mudah ialah mengesahkan maklumat. Contohnya, apabila menerima panggilan telefon atau e-mel, contohnya daripada bank, kami perlu menyemak semula: Kami boleh menghubungi semula nombor pelanggan itu atau menghubungi bank secara terus untuk mengesahkan maklumat.

Terdapat banyak e-mel palsu, nombor telefon palsu, malah panggilan Zoom palsu hari ini. Penipuan ini mudah, murah dan tidak mengambil banyak masa.

Dalam keluarga saya, kami juga mempunyai langkah keselamatan kami sendiri: "soalan rahsia" yang hanya ahli keluarga tahu, seperti nama arnab peliharaan kami. Ini memastikan maklumat penting kekal dalam keluarga dan tidak bocor.

Vietnam juga telah memasukkan pendidikan AI dalam pendidikan umum, jadi apakah yang perlu diperhatikan dalam proses itu?

- AI mengubah apa yang diajar dan bagaimana ia diajar. Ia mempengaruhi kemahiran penting masa depan, seperti pemikiran kritis, kemahiran komunikasi, kecerdasan sosial dan kecerdasan emosi. Kemahiran ini akan menjadi penting.

AI boleh membantu dalam mengajar kemahiran ini, contohnya sebagai tutor peribadi, pembantu semakan peribadi, menyediakan alatan pendidikan yang sangat berkesan melalui aplikasi AI.

Terima kasih Profesor kerana meluangkan masa untuk sembang kami!

Sumber: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm