Menghalang teknologi daripada melintasi sempadan etika

Dengan kadar peningkatan yang pantas, kecerdasan buatan (AI) mencipta "revolusi" dalam banyak bidang - daripada penjagaan kesihatan, pendidikan , perniagaan... kepada kehidupan seharian. Walau bagaimanapun, aspek negatif teknologi ini menimbulkan cabaran besar kepada pengurusan dan kawalan maklumat di alam siber.

Dilimpahi dengan berita palsu yang dijana AI

Berita palsu yang dijana oleh AI disebarkan di platform media sosial terutamanya untuk menarik pandangan, suka, meningkatkan interaksi untuk menjual dalam talian atau keuntungan daripada platform.

Orang yang mencipta berita palsu selalunya "mengikut" isu semasa hangat yang menjadi perhatian umum. Sebagai contoh, selepas kemalangan jalan raya yang serius pada 17 September di pasar Tan Long, komune Lao Bao, wilayah Quang Tri , yang menyebabkan 12 orang cedera dan maut, beberapa imej menyayat hati muncul di rangkaian sosial, membuatkan ramai penonton menangis. Menentukan bahawa imej ini dicipta oleh AI, polis komune Lao Bao mengeluarkan amaran mengenai tindakan menyebarkan imej palsu yang menyebabkan salah faham. Perbuatan ini bukan sahaja menyebabkan maklumat palsu tersebar malah menjejaskan siasatan.

Begitu juga, mengambil kesempatan daripada perhatian orang ramai mengelilingi bot pelancong Blue Bay 58 yang terbalik di Teluk Ha Long, wilayah Quang Ninh pada 19 Julai, yang mengorbankan berpuluh-puluh orang, banyak akaun media sosial menyiarkan imej dan cerita menyentuh tentang mangsa. Walau bagaimanapun, kebanyakan kandungan ini adalah palsu, dicipta menggunakan AI untuk "memukul" emosi dan menarik interaksi pengguna media sosial. Terutamanya, imej palsu yang berleluasa dengan kandungan simpati yang dibesar-besarkan boleh menyebabkan trauma emosi lebih lanjut kepada keluarga mangsa.

Dengan teknologi AI dipertingkatkan setiap hari, ia hanya mengambil masa beberapa minit dengan arahan mudah untuk mencipta video dengan kandungan yang menarik, sesuai dengan niat pengguna. Khususnya, platform AI generasi baharu seperti KlingAI, Veo 3, Sora... sangat popular dengan pengguna global, termasuk Vietnam.

Selain itu, teknologi deepfake - gabungan pembelajaran mendalam dan palsu - juga telah menimbulkan kebimbangan yang besar di seluruh dunia kerana ia boleh digunakan untuk mencipta imej, bunyi atau video realistik yang sangat sukar untuk dikesan sebagai palsu. Akibatnya, satu siri penipuan yang berkaitan dengan teknologi ini telah berlaku di Vietnam dan dunia.

Leftenan Jeneral Nguyen Minh Chinh, Naib Presiden Tetap Persatuan Keselamatan Siber Kebangsaan, menyatakan bahawa terdapat trend menyalahgunakan AI untuk tujuan yang menyalahi undang-undang. Khususnya, AI-as-a-Service (perkhidmatan yang menyediakan alatan dan aplikasi AI - PV) dieksploitasi oleh penjenayah siber untuk mencipta kod hasad, suara palsu, muka, teks... untuk melakukan penipuan, menyerang rangkaian, menyusup ke sistem data, malah menyebabkan ketidakstabilan keselamatan dan memusnahkan reputasi organisasi, perniagaan dan pemimpin.

Menurut Encik Tran Ngoc Anh, Pengarah Teknikal Cyber Peace Company Limited (CyPeace), salah satu risiko bagi pengguna AI ialah mereka mungkin menerima maklumat palsu yang dicipta oleh alat ini sendiri. Selain itu, terdapat beberapa siri masalah lain seperti pendedahan maklumat sulit, data peribadi...

Menghalang teknologi daripada melintasi sempadan etika - Foto 1.

Menghalang teknologi daripada melintasi sempadan etika - Foto 2.

Imej palsu disebarkan di internet untuk "menarik air mata" daripada penonton, dengan itu menarik suka dan meningkatkan interaksi (Tangkapan skrin)

Tingkatkan tanggungjawab pengguna

Sebelum terdapat langkah teknologi dan undang-undang untuk mengawal pembangunan dan penggunaan AI secara ketat, pengguna perlu menggunakan teknologi ini secara proaktif secara bertanggungjawab.

Pakar keselamatan siber Vu Ngoc Son, Ketua Jabatan Teknologi Persatuan Keselamatan Siber Kebangsaan, menegaskan bahawa manusia adalah subjek yang mengeksploitasi dan menggunakan AI, jadi sisi baik dan buruk AI berkait rapat dengan manusia. Jika pengguna layak dan menggunakannya untuk tujuan yang baik, teknologi akan mempromosikan kekuatannya yang bermanfaat. Sebaliknya, jika pengguna AI kurang memahami atau mengambil kesempatan daripadanya untuk tujuan yang menyalahi undang-undang, ia boleh menyebabkan akibat yang serius. "Untuk menggunakan dan mengeksploitasi AI dengan berkesan, adalah perlu untuk memberi tumpuan kepada membina pasukan dan proses. AI hanya mempromosikan nilainya apabila diletakkan di tangan mereka yang tahu bagaimana untuk menguasainya," kata pakar keselamatan siber itu.

Dengan bahaya deepfake - alat peneraju penipuan teknologi hari ini, dalam proses penggubalan Undang-undang Pelaburan dan Perniagaan, Kementerian Kewangan turut menekankan: Perniagaan teknologi Deepfake perlu dikawal selia sebagai barisan perniagaan bersyarat untuk mengelakkan penyalahgunaan teknologi yang menyebabkan gangguan maklumat, penipuan... Menurut Kementerian Kewangan, pada masa ini, perniagaan teknologi deepfake adalah salah satu bidang baharu untuk mengawal selia dan perintah perniagaan yang kompleks, tetapi bukan untuk mengawal selia perniagaan.

Menurut peguam Tran Anh Tuan (Persatuan Peguam Hanoi), jika AI digunakan untuk mencipta kandungan tanpa kebenaran, terutamanya mencipta maklumat palsu, palsu atau penipuan, ia mungkin melanggar peruntukan Kanun Sivil. Sehubungan itu, pelanggar akan dikenakan sekatan pentadbiran atau pampasan untuk kerosakan. Sekiranya berlaku akibat yang serius, liabiliti jenayah boleh didakwa. "Pengguna perlu berhati-hati apabila mendekati dan menggunakan AI, benar-benar elakkan mengambil kesempatan daripada AI untuk menarik pandangan dan suka; meningkatkan tanggungjawab peribadi, mematuhi undang-undang apabila menggunakan AI serta mengambil bahagian dalam persekitaran dalam talian" - peguam Tuan mengesyorkan.

Leftenan Jeneral Nguyen Minh Chinh menekankan bahawa faktor teras dalam pembangunan AI yang mampan ialah sumber manusia. Daripada penyelidik, jurutera, pakar keselamatan siber kepada pengurus dan pengguna, semuanya perlu dilengkapi sepenuhnya dengan pengetahuan, kemahiran, etika dan kesedaran undang-undang. Menurut Encik Chinh, ini bukan sahaja pasukan yang membina dan mengendalikan sistem AI tetapi juga kuasa utama dalam mencegah, mengesan dan memerangi jenayah berteknologi tinggi di alam siber.

Vietnam akan mempunyai Undang-undang mengenai Kepintaran Buatan

Pada persidangan saintifik kebangsaan baru-baru ini mengenai AI, Menteri Sains dan Teknologi Nguyen Manh Hung menyatakan bahawa AI membuka peluang besar tetapi juga membangkitkan banyak isu mengenai etika, pekerjaan dan kepercayaan sosial. Oleh itu, AI mesti dibangunkan dengan cepat, selamat dan berperikemanusiaan.

Menurut Menteri Nguyen Manh Hung, AI tidak menggantikan manusia tetapi berkhidmat kepada manusia, adalah pembantu kepada manusia. AI ialah alat yang berkuasa tetapi manusia adalah pembuat keputusan, jadi biarkan AI menyokong, bukan menggantikan pemikiran, nilai dan tanggungjawab manusia. "Kementerian Sains dan Teknologi akan mengeluarkan Kod Etika AI kebangsaan yang selaras dengan piawaian antarabangsa tetapi direka bentuk untuk disesuaikan dengan amalan Vietnam, dan pada masa yang sama membangunkan Undang-undang AI dan strategi AI" - Menteri Nguyen Manh Hung memaklumkan.

Komen (0)