Mencegah teknologi melanggar batasan etika.

Meningkatnya penggunaan AI untuk tujuan yang tidak etis telah menciptakan kebutuhan mendesak akan kontrol teknologi dan peningkatan akuntabilitas pengguna.

Dengan laju perkembangannya yang pesat, kecerdasan buatan (AI) merevolusi banyak bidang – mulai dari perawatan kesehatan, pendidikan , dan bisnis hingga kehidupan sehari-hari. Namun, sisi negatif dari teknologi ini menimbulkan tantangan signifikan dalam mengelola dan mengendalikan informasi di dunia maya.

Dibanjiri berita palsu yang dihasilkan oleh AI.

Berita palsu yang dihasilkan oleh AI disebarkan di platform media sosial terutama untuk mendapatkan tayangan, suka, dan interaksi untuk penjualan online atau untuk mendapatkan keuntungan dari platform tersebut.

Mereka yang membuat berita palsu sering memanfaatkan peristiwa terkini yang sedang tren dan menarik perhatian publik. Misalnya, setelah kecelakaan lalu lintas serius pada tanggal 17 September di pasar Tan Long, komune Lao Bao, provinsi Quang Tri , yang mengakibatkan 12 korban jiwa, beberapa gambar yang memilukan muncul di media sosial, membuat banyak pemirsa menangis. Setelah mengidentifikasi gambar-gambar tersebut sebagai hasil rekayasa AI, kepolisian komune Lao Bao mengeluarkan peringatan tentang penyebaran gambar-gambar palsu yang menyesatkan ini. Perilaku ini tidak hanya menyebarkan informasi palsu tetapi juga menghambat penyelidikan.

Demikian pula, memanfaatkan perhatian publik seputar terbaliknya kapal wisata Green Bay 58 di Teluk Ha Long, Provinsi Quang Ninh pada 19 Juli yang menewaskan puluhan orang, banyak akun media sosial memposting gambar dan cerita emosional tentang para korban. Namun, sebagian besar konten ini palsu, dibuat menggunakan AI untuk memanipulasi emosi dan menarik interaksi pengguna media sosial. Yang perlu diperhatikan, penggunaan gambar palsu yang meluas dengan simpati yang berlebihan dapat semakin membuat trauma keluarga para korban.

Dengan teknologi AI yang terus berkembang, hanya dibutuhkan beberapa menit dan perintah sederhana untuk membuat video dengan konten menarik yang sesuai dengan keinginan pengguna. Di antara platform-platform tersebut, platform AI generasi terbaru seperti KlingAI, Veo 3, dan Sora sangat populer di kalangan pengguna di seluruh dunia, termasuk Vietnam.

Selain itu, teknologi deepfake – kombinasi antara pembelajaran mendalam dan pemalsuan – juga menjadi perhatian utama secara global karena dapat digunakan untuk menciptakan gambar, suara, atau video yang terlihat sangat nyata sehingga sangat sulit untuk dideteksi sebagai palsu. Akibatnya, banyak penipuan terkait teknologi ini telah terjadi baik di Vietnam maupun di seluruh dunia.

Letnan Jenderal Nguyen Minh Chinh, Wakil Ketua Tetap Asosiasi Keamanan Siber Nasional, mencatat tren peningkatan penyalahgunaan AI untuk tujuan ilegal. Secara khusus, AI-as-a-Service (alat dan aplikasi yang disediakan AI) dieksploitasi oleh penjahat siber untuk membuat malware, memalsukan suara, wajah, dan teks... untuk penipuan, serangan siber, intrusi sistem data, dan bahkan untuk mengacaukan keamanan dan merusak reputasi organisasi, bisnis, dan para pemimpin.

Menurut Bapak Tran Ngoc Anh, Direktur Teknik Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), salah satu risiko bagi pengguna AI adalah potensi menerima informasi yang salah yang dihasilkan oleh alat itu sendiri. Selain itu, ada sejumlah masalah lain seperti kebocoran informasi rahasia dan data pribadi.

Gambar palsu disebarkan secara online untuk "membuat pemirsa menangis," sehingga mendapatkan "like" dan meningkatkan interaksi (Screenshot).

Meningkatkan tanggung jawab pengguna

Sebelum langkah-langkah teknologi dan hukum diterapkan untuk mengontrol secara ketat pengembangan dan penggunaan AI, pengguna perlu secara proaktif menggunakan teknologi ini secara bertanggung jawab.

Pakar keamanan siber Vu Ngoc Son, Kepala Komite Teknologi Asosiasi Keamanan Siber Nasional, menunjukkan bahwa manusia adalah subjek yang mengeksploitasi dan menggunakan AI, sehingga baik aspek baik maupun buruk AI terkait erat dengan manusia. Jika pengguna terampil dan menerapkannya untuk tujuan yang baik, teknologi tersebut akan memanfaatkan kekuatannya untuk keuntungan mereka. Sebaliknya, jika pengguna AI kurang memahami atau mengeksploitasinya untuk tujuan ilegal, hal itu dapat menyebabkan konsekuensi serius. "Untuk menggunakan dan mengeksploitasi AI secara efektif, perlu fokus pada pembangunan tim dan proses. AI hanya mewujudkan nilainya ketika berada di tangan mereka yang tahu cara menguasainya," kata pakar keamanan siber tersebut.

Mengingat bahaya teknologi deepfake – alat utama yang memfasilitasi penipuan siber saat ini – Kementerian Keuangan menekankan selama penyusunan Undang-Undang tentang Investasi dan Bisnis bahwa bisnis teknologi deepfake perlu diatur sebagai sektor usaha bersyarat untuk mencegah penyalahgunaan teknologi yang menyebabkan gangguan informasi dan penipuan. Menurut Kementerian Keuangan, bisnis teknologi deepfake saat ini merupakan salah satu bidang baru dengan potensi risiko kompleks terhadap keamanan dan ketertiban, namun belum diatur sebagai sektor usaha bersyarat.

Menurut pengacara Tran Anh Tuan (Asosiasi Advokat Hanoi), penggunaan AI untuk membuat konten tanpa izin, terutama untuk membuat informasi palsu, fiktif, atau curang, dapat melanggar ketentuan KUHP. Pelanggar dapat menghadapi sanksi administratif atau ganti rugi. Dalam kasus yang menimbulkan konsekuensi serius, tanggung jawab pidana dapat dituntut. "Pengguna perlu berhati-hati saat mengakses dan menggunakan AI, benar-benar menghindari tindakan apa pun yang mengeksploitasi AI untuk mendapatkan tayangan atau suka; mereka harus meningkatkan tanggung jawab pribadi dan mematuhi hukum saat menggunakan AI dan berpartisipasi dalam lingkungan daring," saran pengacara Tuan.

Letnan Jenderal Nguyen Minh Chinh menekankan bahwa elemen inti dalam pengembangan AI berkelanjutan adalah sumber daya manusia. Mulai dari peneliti, insinyur, pakar keamanan siber hingga manajer dan pengguna, setiap orang perlu dibekali sepenuhnya dengan pengetahuan, keterampilan, etika, dan kesadaran hukum. Menurutnya, ini bukan hanya tim yang membangun dan mengoperasikan sistem AI, tetapi juga kekuatan kunci dalam mencegah, mendeteksi, dan memerangi kejahatan teknologi tinggi di dunia maya.

Vietnam akan memiliki Undang-Undang tentang Kecerdasan Buatan.

Pada konferensi ilmiah nasional tentang AI baru-baru ini, Menteri Sains dan Teknologi Nguyen Manh Hung menyatakan bahwa AI membuka peluang besar tetapi juga menimbulkan banyak masalah terkait etika, lapangan kerja, dan kepercayaan sosial. Oleh karena itu, pengembangan AI harus cepat, aman, dan manusiawi.

Menurut Menteri Nguyen Manh Hung, AI tidak menggantikan manusia tetapi melayani manusia, bertindak sebagai asisten mereka. AI adalah alat yang ampuh, tetapi manusia adalah pengambil keputusan; oleh karena itu, AI harus mendukung, bukan menggantikan, pemikiran, nilai, dan tanggung jawab manusia. "Kementerian Sains dan Teknologi akan mengeluarkan kode etik nasional untuk AI yang selaras dengan standar internasional tetapi dirancang agar sesuai dengan realitas Vietnam, dan juga akan mengembangkan undang-undang AI dan strategi AI," kata Menteri Nguyen Manh Hung.

Sumber: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm