Apa yang harus dilakukan Vietnam untuk menghindari risiko menjadi sumber daya yang murah?

(Dan Tri) - Dalam konteks Vietnam sebagai salah satu negara pionir yang mempertimbangkan pengesahan UU AI, persoalannya bukan hanya memajukan teknologi tetapi juga melindungi kedaulatan digital dan keselamatan rakyat.

Ledakan kecerdasan buatan (AI) membawa manfaat besar bagi umat manusia tetapi juga menimbulkan konsekuensi yang tak terhitung jumlahnya: dari prasangka rasial, penipuan daring yang canggih hingga risiko negara berkembang menjadi "tambang data" yang murah.

Mengingat kenyataan tersebut, apakah penggunaan AI yang bertanggung jawab harus bersifat sukarela atau wajib? Apa yang harus dilakukan Vietnam dalam membangun koridor hukum untuk bidang ini?

Di sela-sela acara VinFuture Science and Technology Week, reporter berbincang dengan Profesor Toby Walsh - Universitas New South Wales (Australia), Akademisi American Computer Society.

Profesor tersebut menawarkan wawasan tentang bagaimana kita "berperilaku" dengan AI, mulai dari meminta pertanggungjawaban "mesin" hingga kiat bagi keluarga untuk melindungi diri dari gelombang penipuan teknologi tinggi.

Siapa yang bertanggung jawab atas AI?

Profesor, apakah penggunaan AI yang bertanggung jawab harus bersifat sukarela atau wajib? Dan bagaimana seharusnya kita bersikap terhadap AI?

Saya sangat yakin bahwa penggunaan AI yang bertanggung jawab haruslah wajib . Ada insentif yang menyimpang , dengan sejumlah besar uang dihasilkan dari AI, dan satu-satunya cara untuk memastikan perilaku yang tepat adalah dengan menerapkan peraturan yang ketat , sehingga kepentingan publik selalu seimbang dengan kepentingan komersial .

Ketika AI melakukan kesalahan, siapa yang bertanggung jawab? Khususnya dengan agen AI, apakah kita memiliki kemampuan untuk memperbaiki mekanisme operasinya?

Masalah inti dengan AI yang membuat kesalahan adalah kita tidak dapat meminta pertanggungjawaban AI. AI bukanlah manusia – dan ini merupakan kelemahan dalam setiap sistem hukum di dunia . Hanya manusia yang dapat dimintai pertanggungjawaban atas keputusan dan tindakan mereka.

Tiba-tiba, kita memiliki “agen” baru, AI, yang dapat—jika kita mengizinkannya—mengambil keputusan dan mengambil tindakan di dunia kita, yang menimbulkan tantangan: Siapa yang akan kita minta pertanggungjawaban?

Jawabannya adalah: Perusahaan yang menerapkan dan mengoperasikan sistem AI harus bertanggung jawab atas konsekuensi yang ditimbulkan oleh “mesin” ini.

Banyak perusahaan juga membicarakan tentang AI yang bertanggung jawab. Bagaimana kita bisa memercayai mereka? Bagaimana kita tahu mereka serius dan komprehensif, dan bukan sekadar menggunakan "AI yang bertanggung jawab" sebagai gimmick pemasaran?

Kita perlu meningkatkan transparansi. Penting untuk memahami kemampuan dan keterbatasan sistem AI. Kita juga harus "memilih dengan melakukan", yaitu memilih untuk menggunakan layanan secara bertanggung jawab.

Saya benar-benar percaya bahwa cara bisnis menggunakan AI secara bertanggung jawab akan menjadi pembeda di pasar, memberi mereka keuntungan komersial.

Jika sebuah perusahaan menghormati data pelanggan, perusahaan tersebut akan mendapatkan keuntungan dan menarik pelanggan. Bisnis akan menyadari bahwa melakukan hal yang benar tidak hanya etis, tetapi juga akan membantu mereka menjadi lebih sukses. Saya melihat ini sebagai cara untuk membedakan antar bisnis, dan bisnis yang bertanggung jawab adalah bisnis yang membuat kita merasa nyaman berbisnis dengan mereka.

Vietnam perlu secara proaktif melindungi nilai-nilai budaya.

Vietnam adalah salah satu dari sedikit negara yang mempertimbangkan untuk mengesahkan Undang-Undang Kecerdasan Buatan. Bagaimana penilaian Anda terhadap hal ini? Menurut Anda, bagi negara berkembang seperti Vietnam, apa saja tantangan terkait etika dan keamanan dalam pengembangan AI?

Saya sangat senang Vietnam menjadi salah satu negara pelopor yang akan memiliki Undang-Undang khusus tentang Kecerdasan Buatan. Hal ini penting karena setiap negara memiliki nilai dan budayanya sendiri, dan membutuhkan undang-undang untuk melindungi nilai-nilai tersebut.

Nilai-nilai dan budaya Vietnam berbeda dengan Australia, Tiongkok, dan Amerika Serikat. Kita tidak bisa mengharapkan perusahaan teknologi dari Tiongkok atau Amerika Serikat secara otomatis melindungi budaya dan bahasa Vietnam. Vietnam harus mengambil inisiatif untuk melindungi hal-hal ini.

Saya menyadari bahwa di masa lalu, banyak negara berkembang telah mengalami periode penjajahan fisik. Jika kita tidak berhati-hati, kita bisa saja mengalami periode "penjajahan digital". Data Anda akan dieksploitasi dan Anda akan menjadi sumber daya yang murah.

Hal ini berisiko jika negara berkembang mengembangkan industri AI dengan cara yang hanya mengeksploitasi data tanpa mengendalikan atau melindungi kepentingan mereka sendiri.

Jadi bagaimana mengatasi situasi ini?

Sederhana saja: Berinvestasilah pada manusia. Tingkatkan keterampilan manusia, pastikan mereka memahami AI. Dukung wirausahawan, perusahaan AI, dukung universitas. Bersikaplah proaktif. Alih-alih menunggu negara lain mentransfer teknologi atau membimbing kita, kita harus proaktif dan menguasai teknologi.

Profesor Toby Walsh berbagi di VinFuture Science and Technology Week (Foto: Panitia Penyelenggara).

Kedua, kita perlu secara kuat mengadvokasi platform media sosial untuk menciptakan lingkungan yang aman bagi pengguna di Vietnam, tanpa memengaruhi demokrasi negara tersebut.

Faktanya, ada banyak contoh bagaimana konten media sosial telah memengaruhi hasil pemilu, memecah belah negara, dan bahkan memicu terorisme.

Saya telah menghabiskan 40 tahun berkecimpung di bidang kecerdasan buatan. Selama 30 tahun pertama, saya berfokus pada bagaimana membuat AI lebih canggih. Dalam 10 tahun terakhir, saya semakin tertarik dan vokal dalam mengembangkan AI secara bertanggung jawab.

Dapatkah Anda memberi beberapa saran karena Vietnam sedang dalam proses menyusun Undang-Undang tentang Kecerdasan Buatan?

- Ada banyak kasus di mana undang-undang baru tidak diperlukan. Kita sudah punya undang-undang privasi, kita sudah punya undang-undang persaingan. Undang-undang yang sudah ada ini berlaku untuk ruang digital, sama seperti berlaku untuk dunia fisik.

Penting untuk menegakkan hukum ini seketat di lingkungan digital seperti yang kita lakukan di lingkungan fisik.

Namun, ada beberapa risiko baru yang muncul, dan kita mulai melihatnya. Orang-orang mulai menjalin hubungan dengan AI, menggunakan AI sebagai terapis, dan terkadang hal itu justru membahayakan penggunanya, jadi kita perlu berhati-hati.

Kami selalu meminta pertanggungjawaban produsen saat merilis produk. Misalnya, jika perusahaan AI merilis produk AI yang membahayakan manusia, mereka juga harus bertanggung jawab.

Jadi bagaimana kita bisa mencegah AI menimbulkan dampak buruk pada anak-anak dan menciptakan lingkungan yang aman bagi anak-anak setiap kali AI muncul, Pak?

Saya rasa kita belum banyak belajar dari media sosial. Banyak negara kini mulai menyadari bahwa media sosial memiliki banyak manfaat, tetapi juga banyak kerugian, terutama dampaknya terhadap kesehatan mental, tingkat kecemasan, dan citra tubuh kaum muda, terutama anak perempuan.

Banyak negara telah mulai menerapkan langkah-langkah untuk mengatasi masalah ini. Di Australia, batas usia penggunaan media sosial akan mulai berlaku pada 10 Desember. Saya rasa kita perlu langkah serupa untuk AI.

Kita sedang membangun alat yang dapat memberikan dampak positif tetapi juga dapat menyebabkan bahaya, dan kita perlu melindungi pikiran dan hati anak-anak kita dari dampak negatif ini.

Selain itu, saya berharap negara-negara juga akan mengeluarkan peraturan yang ketat untuk mengelola jaringan sosial, sehingga menciptakan lingkungan yang benar-benar aman bagi semua orang saat menggunakan AI.

Faktanya, tidak hanya anak-anak, tetapi juga orang dewasa menghadapi risiko yang disebabkan oleh AI itu sendiri. Jadi, bagaimana orang-orang dapat memanfaatkan AI untuk meningkatkan kualitas hidup mereka tanpa membahayakan?

AI diterapkan di berbagai bidang, membantu meningkatkan kualitas hidup kita. Dalam dunia kedokteran, AI membantu menemukan obat-obatan baru. Dalam dunia pendidikan , AI juga membawa banyak manfaat positif.

Namun, memberikan akses ke AI tanpa perlindungan yang memadai terlalu berisiko. Kita telah menyaksikan gugatan hukum di AS di mana orang tua menggugat perusahaan teknologi yang mendorong anak-anak mereka bunuh diri setelah berinteraksi dengan chatbot AI.

Meskipun persentase pengguna ChatGPT yang mengalami masalah kesehatan mental hanya beberapa persen, dengan ratusan juta pengguna, jumlah sebenarnya mencapai ratusan ribu.

Data sangat penting untuk pengembangan AI, tetapi dari perspektif manajemen, jika manajemen data terlalu ketat, hal itu akan menghambat pengembangan AI. Menurut Anda, bahaya apa saja yang dapat ditimbulkan oleh pelonggaran manajemen data? Bagaimana menyeimbangkan pengumpulan data, manajemen data yang aman, dengan pengembangan AI yang berkelanjutan?

Saya sangat setuju. Data adalah inti dari kemajuan AI , karena datalah yang mendorongnya. Tanpa data, kita tidak akan mencapai kemajuan apa pun. Data berkualitas tinggi adalah inti dari semua yang kita lakukan. Faktanya, nilai komersial dan keunggulan kompetitif yang diperoleh perusahaan berasal dari data. Apakah kita memiliki data berkualitas atau tidak, itulah isu utamanya.

Sungguh menyebalkan melihat buku-buku para penulis di seluruh dunia—termasuk buku saya—digunakan tanpa izin dan tanpa kompensasi. Ini sama saja dengan mencuri hasil karya orang lain. Jika situasi ini terus berlanjut, para penulis akan kehilangan motivasi untuk menulis buku, dan kita akan kehilangan nilai-nilai budaya yang kita junjung tinggi.

Kita perlu menemukan solusi yang lebih adil daripada yang kita miliki sekarang.

Saat ini, "Silicon Valley" mengambil konten dan kreativitas dari para penulis tanpa membayarnya – ini tidak berkelanjutan. Saya membandingkan situasi saat ini dengan Napster dan masa-masa awal musik daring di tahun 2000-an. Saat itu, semua musik daring "dicuri", tetapi itu tidak bisa bertahan selamanya, karena para musisi membutuhkan pemasukan untuk terus berkarya.

Terakhir, kita memiliki sistem streaming berbayar , seperti Spotify atau Apple Music, atau musik yang didukung iklan, dengan sebagian pendapatannya dikembalikan kepada artis. Kita perlu melakukan hal yang sama dengan buku, agar penulis mendapatkan nilai dari data mereka. Jika tidak, tidak akan ada yang termotivasi untuk menulis buku, dan dunia akan jauh lebih buruk tanpa adanya buku baru yang ditulis.

Dalam rangka Pekan Sains dan Teknologi VinFuture, pameran "Toa V - Touchpoint of Science" juga akan berlangsung di Vincom Royal City Contemporary Art Center (Foto: Panitia Penyelenggara).

AI sangat berkembang di Vietnam. Belakangan ini, Vietnam telah menerapkan banyak kebijakan untuk mempromosikan AI, tetapi Vietnam juga menghadapi masalah, yaitu penipuan yang disebabkan oleh AI. Jadi, menurut Profesor, bagaimana seharusnya Vietnam menangani situasi ini? Apa saran Profesor bagi mereka yang menggunakan AI saat ini untuk memastikan keamanan dan melindungi data mereka?

- Bagi setiap individu, saya rasa cara paling sederhana adalah memverifikasi informasi. Misalnya, ketika menerima panggilan telepon atau email, misalnya dari bank, kita perlu memeriksa kembali: Kita bisa menghubungi kembali nomor pelanggan tersebut atau menghubungi bank secara langsung untuk memverifikasi informasi.

Banyak sekali email palsu, nomor telepon palsu, bahkan panggilan Zoom palsu akhir-akhir ini. Penipuan ini sederhana, murah, dan tidak memakan banyak waktu.

Di keluarga saya, kami juga punya langkah pengamanan sendiri: sebuah "pertanyaan rahasia" yang hanya diketahui anggota keluarga, misalnya nama kelinci peliharaan kami. Ini memastikan informasi penting tetap rahasia dan tidak bocor.

Vietnam juga telah memasukkan pendidikan AI dalam pendidikan umum, jadi apa yang perlu diperhatikan dalam proses itu?

AI mengubah apa yang diajarkan dan bagaimana cara pengajarannya. AI memengaruhi keterampilan penting masa depan, seperti berpikir kritis, keterampilan komunikasi, kecerdasan sosial, dan kecerdasan emosional. Keterampilan-keterampilan ini akan menjadi sangat penting.

AI dapat membantu dalam mengajarkan keterampilan ini, misalnya sebagai tutor pribadi, asisten belajar pribadi, menyediakan alat pendidikan yang sangat efektif melalui aplikasi AI.

Terima kasih Profesor telah meluangkan waktu untuk obrolan kita!

Sumber: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm