Cegah teknologi daripada melangkaui sempadan etika.

Penggunaan AI yang semakin meningkat untuk tujuan yang tidak beretika telah mewujudkan keperluan segera untuk kawalan teknologi dan peningkatan akauntabiliti pengguna.

Dengan kepesatan kemajuannya, kecerdasan buatan (AI) sedang merevolusikan pelbagai bidang – daripada penjagaan kesihatan, pendidikan dan perniagaan hinggalah kepada kehidupan seharian. Walau bagaimanapun, kelemahan teknologi ini menimbulkan cabaran yang ketara dalam mengurus dan mengawal maklumat di ruang siber.

Dibanjiri berita palsu yang dihasilkan oleh AI.

Berita palsu yang dihasilkan oleh AI disebarkan di platform media sosial terutamanya untuk mendapatkan tontonan, suka dan penglibatan bagi jualan dalam talian atau untuk mengaut keuntungan daripada platform tersebut.

Mereka yang mencipta berita palsu sering memanfaatkan perkembangan semasa yang sedang hangat diperkatakan dan menarik perhatian umum. Contohnya, selepas kemalangan jalan raya yang serius pada 17 September di pasar Tan Long, komune Lao Bao, wilayah Quang Tri , yang mengakibatkan 12 orang terkorban, beberapa imej yang menyayat hati muncul di media sosial, membuatkan ramai penonton menangis. Polis komune Lao Bao, setelah mengenal pasti imej-imej ini sebagai dicipta oleh AI, mengeluarkan amaran tentang penyebaran imej-imej palsu yang mengelirukan ini. Tingkah laku ini bukan sahaja menyebarkan maklumat palsu tetapi juga menghalang siasatan.

Begitu juga, mengambil kesempatan daripada perhatian awam seputar kejadian bot pelancong Green Bay 58 terbalik di Ha Long Bay, wilayah Quang Ninh pada 19 Julai, yang mengorbankan berpuluh-puluh orang, banyak akaun media sosial menyiarkan imej dan cerita yang emosional tentang mangsa. Walau bagaimanapun, sebahagian besar kandungan ini adalah palsu, dicipta menggunakan AI untuk memanipulasi emosi dan menarik interaksi pengguna media sosial. Terutamanya, penggunaan imej palsu yang meluas dengan simpati yang berlebihan boleh menyebabkan trauma lebih lanjut kepada keluarga mangsa.

Dengan teknologi AI yang sentiasa bertambah baik, hanya beberapa minit dan arahan mudah diperlukan untuk mencipta video dengan kandungan menarik yang sepadan dengan niat pengguna. Antaranya, platform AI generasi akan datang seperti KlingAI, Veo 3 dan Sora sangat popular di kalangan pengguna di seluruh dunia, termasuk Vietnam.

Tambahan pula, teknologi deepfake – gabungan pembelajaran mendalam dan pemalsuan – juga menjadi kebimbangan utama di seluruh dunia kerana ia boleh digunakan untuk mencipta imej, bunyi atau video yang kelihatan begitu nyata sehingga sangat sukar untuk dikesan sebagai palsu. Akibatnya, banyak penipuan yang berkaitan dengan teknologi ini telah berlaku di Vietnam dan di seluruh dunia.

Leftenan Jeneral Nguyen Minh Chinh, Naib Pengerusi Tetap Persatuan Keselamatan Siber Kebangsaan, menyatakan trend penyalahgunaan AI yang semakin meningkat untuk tujuan haram. Secara khususnya, AI-sebagai-Perkhidmatan (alat dan aplikasi yang disediakan oleh AI) sedang dieksploitasi oleh penjenayah siber untuk mencipta perisian hasad, memalsukan suara, wajah dan teks... untuk penipuan, serangan siber, pencerobohan sistem data dan juga untuk menjejaskan kestabilan keselamatan dan merosakkan reputasi organisasi, perniagaan dan pemimpin.

Menurut Encik Tran Ngoc Anh, Pengarah Teknikal Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), salah satu risiko bagi pengguna AI adalah potensi menerima maklumat salah yang dihasilkan oleh alat itu sendiri. Di samping itu, terdapat pelbagai isu lain seperti kebocoran maklumat sulit dan data peribadi.

Imej palsu sedang disebarkan dalam talian untuk "membuat penonton menangis", sekali gus mendapat tanda suka dan meningkatkan interaksi (Tangkapan skrin).

Meningkatkan tanggungjawab pengguna

Sebelum langkah-langkah teknologi dan perundangan dilaksanakan untuk mengawal pembangunan dan penggunaan AI dengan ketat, pengguna perlu menggunakan teknologi ini secara proaktif dan bertanggungjawab.

Pakar keselamatan siber, Vu Ngoc Son, Ketua Jawatankuasa Teknologi Persatuan Keselamatan Siber Kebangsaan, menegaskan bahawa manusia adalah subjek yang mengeksploitasi dan menggunakan AI, jadi kedua-dua aspek baik dan buruk AI berkait rapat dengan manusia. Jika pengguna mahir dan mengaplikasikannya untuk tujuan yang baik, teknologi tersebut akan memanfaatkan kekuatannya untuk kelebihan mereka. Sebaliknya, jika pengguna AI kurang memahami atau mengeksploitasinya untuk tujuan yang menyalahi undang-undang, ia boleh menyebabkan akibat yang serius. "Untuk menggunakan dan mengeksploitasi AI dengan berkesan, adalah perlu untuk memberi tumpuan kepada membina pasukan dan proses. AI hanya menyedari nilainya apabila diletakkan di tangan mereka yang tahu bagaimana untuk menguasainya," kata pakar keselamatan siber itu.

Memandangkan bahaya teknologi deepfake – alat utama yang memudahkan penipuan siber semasa – Kementerian Kewangan menekankan semasa penggubalan Undang-Undang Pelaburan dan Perniagaan bahawa perniagaan teknologi deepfake perlu dikawal selia sebagai sektor perniagaan bersyarat bagi mencegah penyalahgunaan teknologi yang menyebabkan gangguan maklumat dan penipuan. Menurut Kementerian Kewangan, perniagaan teknologi deepfake kini merupakan salah satu bidang baharu dengan potensi risiko yang kompleks terhadap keselamatan dan ketenteraman, namun ia tidak dikawal selia sebagai sektor perniagaan bersyarat.

Menurut peguam Tran Anh Tuan (Persatuan Peguam Hanoi), penggunaan AI untuk mencipta kandungan tanpa kebenaran, terutamanya untuk mencipta maklumat palsu, direka-reka atau palsu, boleh melanggar peruntukan Kanun Sivil. Pelanggar boleh menghadapi penalti pentadbiran atau pampasan atas ganti rugi. Dalam kes yang menyebabkan akibat yang serius, liabiliti jenayah boleh diambil. "Pengguna perlu berhati-hati semasa mengakses dan menggunakan AI, sama sekali mengelakkan sebarang tindakan yang mengeksploitasi AI untuk mendapatkan pandangan atau suka; mereka harus meningkatkan tanggungjawab peribadi dan mematuhi undang-undang semasa menggunakan AI dan menyertai persekitaran dalam talian," nasihat peguam Tuan.

Leftenan Jeneral Nguyen Minh Chinh menekankan bahawa elemen teras dalam pembangunan AI yang mampan adalah sumber manusia. Daripada penyelidik, jurutera, pakar keselamatan siber hinggalah pengurus dan pengguna, setiap orang perlu dilengkapi sepenuhnya dengan pengetahuan, kemahiran, etika dan kesedaran undang-undang. Menurutnya, ini bukan sahaja pasukan yang membina dan mengendalikan sistem AI tetapi juga merupakan kuasa utama dalam mencegah, mengesan dan memerangi jenayah berteknologi tinggi di ruang siber.

Vietnam akan mempunyai Undang-undang mengenai Kecerdasan Buatan.

Pada persidangan saintifik kebangsaan mengenai AI baru-baru ini, Menteri Sains dan Teknologi Nguyen Manh Hung menyatakan bahawa AI membuka peluang besar tetapi juga menimbulkan banyak isu mengenai etika, pekerjaan dan kepercayaan sosial. Oleh itu, pembangunan AI mestilah pantas, selamat dan berperikemanusiaan.

Menurut Menteri Nguyen Manh Hung, AI tidak menggantikan manusia tetapi melayani manusia, bertindak sebagai pembantu mereka. AI adalah alat yang ampuh, tetapi manusia adalah pembuat keputusan; oleh itu, AI harus menyokong, bukan menggantikan, pemikiran, nilai, dan tanggungjawab manusia. "Kementerian Sains dan Teknologi akan mengeluarkan kod etika kebangsaan untuk AI yang diselaraskan dengan piawaian antarabangsa tetapi direka bentuk untuk disesuaikan dengan realiti Vietnam, dan juga akan membangunkan undang-undang AI dan strategi AI," kata Menteri Nguyen Manh Hung.

Sumber: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm