Mencegah teknologi melewati batas etika

Dengan laju perkembangannya yang pesat, kecerdasan buatan (AI) menciptakan "revolusi" di berbagai bidang - mulai dari perawatan kesehatan, pendidikan , bisnis, hingga kehidupan sehari-hari. Namun, aspek negatif dari teknologi ini menimbulkan tantangan signifikan terhadap pengelolaan dan pengendalian informasi di dunia maya.

Dibanjiri berita palsu yang dihasilkan AI

Berita palsu yang dihasilkan oleh AI disebarkan di platform media sosial terutama untuk menarik penayangan, suka, meningkatkan interaksi untuk berjualan daring atau mendapat keuntungan dari platform tersebut.

Orang-orang yang membuat berita palsu seringkali "mengikuti" isu-isu terkini yang menjadi perhatian publik. Misalnya, setelah kecelakaan lalu lintas serius pada 17 September di Pasar Tan Long, Kecamatan Lao Bao, Provinsi Quang Tri , yang mengakibatkan 12 orang luka-luka dan meninggal dunia, sejumlah gambar memilukan muncul di media sosial, membuat banyak orang menitikkan air mata. Setelah memastikan bahwa gambar-gambar ini dibuat oleh AI, kepolisian Kecamatan Lao Bao mengeluarkan peringatan tentang tindakan penyebaran gambar palsu yang menyebabkan kesalahpahaman. Tindakan ini tidak hanya menyebabkan penyebaran informasi palsu tetapi juga memengaruhi penyelidikan.

Demikian pula, memanfaatkan perhatian publik terkait tenggelamnya kapal wisata Blue Bay 58 di Teluk Ha Long, Provinsi Quang Ninh pada 19 Juli, yang menewaskan puluhan orang, banyak akun media sosial mengunggah foto dan cerita mengharukan tentang para korban. Namun, banyak dari konten ini palsu, dibuat menggunakan AI untuk "menekan" emosi dan menarik interaksi pengguna media sosial. Terlebih lagi, foto-foto palsu yang tersebar luas dengan konten simpati yang dilebih-lebihkan dapat menyebabkan trauma emosional lebih lanjut bagi keluarga korban.

Dengan teknologi AI yang terus berkembang setiap harinya, hanya perlu beberapa menit dengan perintah sederhana untuk membuat video dengan konten yang menarik dan sesuai dengan keinginan pengguna. Platform AI generasi baru seperti KlingAI, Veo 3, dan Sora, khususnya, sangat populer di kalangan pengguna global, termasuk Vietnam.

Selain itu, teknologi deepfake—kombinasi pembelajaran mendalam dan kepalsuan—juga telah menimbulkan kekhawatiran besar secara global karena dapat digunakan untuk menciptakan gambar, suara, atau video realistis yang sangat sulit dideteksi sebagai palsu. Akibatnya, serangkaian penipuan terkait teknologi ini telah terjadi di Vietnam dan dunia.

Letnan Jenderal Nguyen Minh Chinh, Wakil Presiden Tetap Asosiasi Keamanan Siber Nasional, mencatat adanya tren penyalahgunaan AI untuk tujuan ilegal. Khususnya, AI-as-a-Service (layanan yang menyediakan perangkat dan aplikasi AI - PV) dieksploitasi oleh penjahat siber untuk membuat kode berbahaya, suara, wajah, dan teks palsu... untuk melakukan penipuan, menyerang jaringan, menyusup ke sistem data, bahkan menyebabkan ketidakstabilan keamanan, dan menghancurkan reputasi organisasi, bisnis, dan para pemimpin.

Menurut Bapak Tran Ngoc Anh, Direktur Teknis Cyber Peace Company Limited (CyPeace), salah satu risiko bagi pengguna AI adalah mereka mungkin menerima informasi palsu yang dibuat oleh alat ini sendiri. Selain itu, terdapat serangkaian masalah lain seperti pengungkapan informasi rahasia, data pribadi...

Mencegah teknologi melewati batas etika - Foto 1.

Mencegah teknologi melewati batas etika - Foto 2.

Gambar palsu disebarkan di internet untuk "menarik air mata" dari pemirsa, sehingga menarik suka dan meningkatkan interaksi (Screenshot)

Meningkatkan tanggung jawab pengguna

Sebelum ada tindakan teknologi dan hukum untuk mengendalikan pengembangan dan penggunaan AI secara ketat, pengguna perlu secara proaktif menggunakan teknologi ini secara bertanggung jawab.

Pakar keamanan siber Vu Ngoc Son, Kepala Departemen Teknologi Asosiasi Keamanan Siber Nasional, menekankan bahwa manusia adalah subjek yang mengeksploitasi dan menggunakan AI, sehingga sisi baik dan buruk AI berkaitan erat dengan manusia. Jika pengguna memenuhi syarat dan menggunakannya untuk tujuan yang baik, teknologi tersebut akan meningkatkan manfaatnya. Sebaliknya, jika pengguna AI kurang memahami atau memanfaatkannya untuk tujuan ilegal, hal itu dapat menimbulkan konsekuensi serius. "Untuk menggunakan dan mengeksploitasi AI secara efektif, penting untuk berfokus pada pengembangan tim dan proses. AI hanya akan meningkatkan nilainya jika diserahkan kepada mereka yang tahu cara menguasainya," ujar pakar keamanan siber tersebut.

Dengan adanya bahaya deepfake - alat utama penipuan teknologi saat ini, dalam proses penyusunan Undang-Undang tentang Penanaman Modal dan Usaha, Kementerian Keuangan juga menegaskan: Usaha teknologi deepfake perlu diatur sebagai bidang usaha bersyarat untuk mencegah penyalahgunaan teknologi yang mengakibatkan gangguan informasi, penipuan... Menurut Kementerian Keuangan, saat ini usaha teknologi deepfake merupakan salah satu bidang usaha baru, yang menimbulkan risiko kompleks terhadap keamanan dan ketertiban namun belum diatur sebagai bidang usaha bersyarat.

Menurut pengacara Tran Anh Tuan (Asosiasi Pengacara Hanoi), penggunaan AI untuk membuat konten tanpa izin, terutama yang berisi informasi palsu, menyesatkan, atau menipu, dapat melanggar ketentuan Kitab Undang-Undang Hukum Perdata. Oleh karena itu, pelanggar akan dikenakan sanksi administratif atau ganti rugi. Jika terjadi konsekuensi serius, dapat dituntut secara pidana. "Pengguna perlu berhati-hati saat menggunakan AI, hindari sepenuhnya penggunaan AI untuk menarik penayangan dan suka; tingkatkan tanggung jawab pribadi, patuhi hukum saat menggunakan AI, serta berpartisipasi dalam lingkungan daring," saran pengacara Tuan.

Letnan Jenderal Nguyen Minh Chinh menekankan bahwa faktor inti dalam pengembangan AI berkelanjutan adalah sumber daya manusia. Mulai dari peneliti, insinyur, pakar keamanan siber, hingga manajer dan pengguna, semuanya perlu dibekali dengan pengetahuan, keterampilan, etika, dan kesadaran hukum yang memadai. Menurut Bapak Chinh, sumber daya manusia bukan hanya tim yang membangun dan mengoperasikan sistem AI, tetapi juga kekuatan kunci dalam mencegah, mendeteksi, dan memerangi kejahatan berteknologi tinggi di dunia maya.

Vietnam akan memiliki Undang-Undang Kecerdasan Buatan

Pada konferensi ilmiah nasional baru-baru ini tentang AI, Menteri Sains dan Teknologi Nguyen Manh Hung menyatakan bahwa AI membuka peluang besar, tetapi juga menimbulkan banyak masalah terkait etika, ketenagakerjaan, dan kepercayaan sosial. Oleh karena itu, AI harus dikembangkan dengan cepat, aman, dan manusiawi.

Menurut Menteri Nguyen Manh Hung, AI tidak menggantikan manusia, melainkan melayani manusia, dan merupakan asisten bagi manusia. AI adalah alat yang ampuh, tetapi manusialah yang menjadi pengambil keputusan, jadi biarkan AI mendukung, bukan menggantikan pemikiran, nilai, dan tanggung jawab manusia. "Kementerian Sains dan Teknologi akan menerbitkan Kode Etik AI nasional yang selaras dengan standar internasional, tetapi dirancang sesuai dengan praktik di Vietnam, dan sekaligus mengembangkan Undang-Undang AI dan strategi AI," ujar Menteri Nguyen Manh Hung.

Komentar (0)