Munculnya kecerdasan buatan (AI) menciptakan titik balik bersejarah, yang memaksa negara-negara untuk menjawab pertanyaan yang belum pernah terjadi sebelumnya tentang etika, keselamatan, dan tanggung jawab teknologi.

Seiring sistem AI menjadi lebih kuat, lebih cepat, dan lebih otonom, batasan antara manfaat dan risiko menjadi semakin kabur.

Diskusi panel “AI untuk kemanusiaan: etika dan keamanan AI di era baru” di VinFuture Week 2025 berlangsung di saat yang tepat, menjadi ruang bagi dunia untuk melihat kembali bagaimana umat manusia menghadapi teknologi yang tidak lagi berada dalam batas-batas negara mana pun.

Dari perspektif analitis, konferensi ini bukan sekadar ajang pertukaran akademis. Konferensi ini merupakan indikasi bahwa Vietnam – pasar yang dinamis dengan kecepatan digitalisasi yang pesat – sedang memasuki ranah tata kelola AI global, di mana standar nilai, koridor hukum, dan visi etika sama pentingnya dengan teknologi itu sendiri.

Robot.jpg
Profesor Toby Walsh, pakar AI terkemuka di Australia, sangat mengapresiasi pentingnya diskusi yang diselenggarakan oleh VinFuture dalam konteks isu tata kelola pengembangan AI yang menjadi isu "hangat" secara global. Foto: UNSW.

Etika AI: Dari “Hambatan Inovasi” Menjadi Landasan Pembangunan Berkelanjutan

Selama bertahun-tahun, etika telah dianggap sebagai penghalang inovasi teknologi. Namun, sebagaimana ditegaskan Profesor Toby Walsh – salah satu tokoh paling dihormati di bidang AI – etika adalah syarat agar inovasi dapat berlangsung secara berkelanjutan, aman, dan terprediksi.

Argumennya didasarkan pada kenyataan: model AI semakin meningkatkan skala data, mengotomatiskan pengambilan keputusan, dan secara langsung memengaruhi manusia dengan cara yang bahkan tidak dapat sepenuhnya dikendalikan oleh pengembang.

Ketika algoritma dapat menganalisis, mengevaluasi, memprediksi, dan membuat keputusan atas nama manusia, kurangnya standar etika bukan lagi risiko teknis — melainkan risiko sosial.

Kejadian-kejadian terkini di seluruh dunia menunjukkan hal ini: AI yang bias dalam perekrutan, model rekomendasi yang menyebabkan polarisasi sosial, algoritma self-driving yang gagal dalam situasi yang tidak pasti… setiap contoh menunjukkan bahwa etika AI bukan sekadar "teori", tetapi persyaratan minimum untuk menjaga kepercayaan publik.

Dalam konteks ini, pertanyaan apakah AI harus diperlambat atau tidak menjadi usang. Yang dibutuhkan umat manusia bukanlah memperlambat, melainkan bergerak ke arah yang benar.

Risiko AI tidak mengenal batas – mengapa negara-negara dipaksa bekerja sama?

Profesor Edson Prestes memberikan peringatan penting: sistem AI apa pun yang dikembangkan di satu negara dapat menyebar secara global dalam hitungan jam melalui platform digital. Hal ini menciptakan kenyataan yang tidak mengenakkan: risiko AI merupakan risiko lintas batas, dan tidak ada negara yang dapat "menutup pintunya" untuk melindungi dirinya sendiri.

Kita telah melihat banyak preseden: Algoritma pemeringkatan berita menciptakan efek "lingkaran informasi" di puluhan negara. Sistem pengenalan wajah yang bias memengaruhi jutaan pengguna di seluruh dunia.

Model bahasa yang bocor memiliki konsekuensi di banyak pasar, sehingga peraturan di masing-masing negara tidak akan mencukupi.

Para ahli sepakat bahwa kerja sama internasional adalah kuncinya. Hal ini terutama penting ketika AI menjadi infrastruktur baru di setiap sektor ekonomi : keuangan, kesehatan, pendidikan, pertahanan, administrasi publik...

Dunia membutuhkan standar umum – serupa dengan penerbangan atau keamanan siber – untuk menghindari kerentanan yang dapat menyebar dan menyebabkan kerusakan dalam skala besar.

Hal ini mengharuskan negara-negara untuk terlibat dalam permainan, daripada menunggu teknologi terbentuk dan kemudian menyesuaikan diri.

Vinfuture.jpg
Profesor Edson Prestes menekankan bahwa semua negara perlu berpartisipasi secara proaktif dalam pengembangan AI yang etis dan bertanggung jawab. Foto: UFRGS.

Vietnam muncul sebagai “titik terang” dalam peta etika AI di Asia Tenggara

Dari perspektif kebijakan, komentar Profesor Walsh tentang Vietnam memiliki banyak implikasi strategis. Vietnam bukanlah pusat pengembangan AI berskala besar seperti AS atau Tiongkok, tetapi memiliki keunggulan unik seperti populasi muda, permintaan digitalisasi yang kuat, kecepatan transformasi digital tercepat di pemerintahan dan bisnis di kawasan ini, ekosistem startup AI yang berkembang, dan kebijakan terbuka dengan uji coba sandbox.

Faktor-faktor ini menempatkan Vietnam pada posisi yang unik: mungkin bukan pemimpin dalam teknologi inti, tetapi bisa menjadi pemimpin dalam menciptakan kerangka kerja yang etis dan cara menangani AI – serupa dengan bagaimana Estonia memimpin dalam pemerintahan digital meskipun bukan pusat teknologi.

Para ahli menilai bahwa Vietnam memenuhi tiga kondisi langka: Permintaan internal yang besar - populasi besar, transformasi layanan publik yang kuat, digitalisasi perusahaan yang cepat; Kecepatan kebijakan yang cepat dan tegas - dari VNeID ke 12 basis data nasional, dari data terbuka ke resolusi tentang keamanan AI; Aspirasi nasional - pertumbuhan ekonomi digital, pengembangan sumber daya manusia AI, menarik para ahli internasional.

Jika Vietnam membentuk seperangkat standar etika dan model tata kelola yang tepat, negara ini dapat menjadi model acuan bagi ASEAN — tempat negara lain berupaya membangun sistem mereka sendiri.

VinFuture 2025: di mana Vietnam menunjukkan perannya sebagai "kontributor suara" dalam permainan AI global

Diskusi panel "AI untuk Kemanusiaan: Etika dan Keamanan AI di Era Baru" bukan hanya tentang sains. Diskusi ini menyampaikan pesan yang jelas: Vietnam ingin bergabung dalam diskusi global tentang masa depan AI.

Dalam konteks kerangka hukum internasional seperti Undang-Undang AI Uni Eropa, Prinsip AI OECD, atau Pedoman AI G7 Hiroshima yang sedang dibentuk, Vietnam perlu tampil di forum ilmiah bergengsi untuk: melindungi kepentingan nasional, berpartisipasi dalam membentuk standar, belajar dari pengalaman internasional, dan membangun suara kebijakan di kawasan.

VinFuture merupakan tujuan ideal karena mempertemukan para ilmuwan terkemuka, menciptakan lingkungan pertukaran berkualitas tinggi, dan tidak tunduk pada tekanan politik seperti konferensi internasional tradisional.

Di sinilah Vietnam dapat memperkenalkan pendekatan “berpusat pada manusia” terhadap AI, yang merupakan tren di antara negara-negara demokrasi dan negara-negara ekonomi berkembang.

Diskusi tahun ini berfokus pada tiga pertanyaan strategis: Bagaimana AI akan mengubah dunia? Nilai-nilai apa yang perlu diintegrasikan ke dalam AI untuk memastikan keadilan? Bagaimana AI dapat dikembangkan untuk melayani kepentingan bersama umat manusia? Ini bukan hanya pertanyaan bagi para ilmuwan, tetapi juga pertanyaan bagi setiap negara yang menghadapi gelombang teknologi baru.

Profesor Prestes menekankan kenyataan yang dingin: negara yang hanya menggunakan teknologi akan selalu bergantung; negara yang mengembangkan teknologi akan mandiri dan mampu melindungi nilai-nilainya sendiri.

Hal ini menghasilkan dua rekomendasi penting bagi Vietnam: Pertama, berpartisipasi lebih mendalam dalam pengembangan teknologi inti AI. Bersaing dengan Big Tech memang tidak wajib, tetapi Vietnam perlu mengembangkan model, algoritma, dan aplikasi spesifik untuk memenuhi kebutuhan domestik, termasuk: e-government, pendidikan cerdas, pengobatan preventif, manajemen risiko bencana, dan pertanian cerdas. Kedua, secara proaktif membangun standar etika AI nasional.

Hal ini dapat didasarkan pada prinsip transparansi, privasi data, non-diskriminasi, keamanan sistem dan akuntabilitas.

Jika Vietnam melakukannya dengan baik, standar ini dapat menjadi dokumen rujukan bagi ASEAN – serupa dengan peran utama negara kita dalam kerangka transformasi digital regional.

Diskusi panel “AI untuk kemanusiaan: etika dan keamanan AI di era baru” melibatkan pembicara dan ilmuwan terkemuka dunia:

● Associate Professor César de la Fuente, University of Pennsylvania, AS — Alfred Sloan Research Fellowship (2025). Beliau termasuk dalam 1% peneliti yang paling banyak dikutip di dunia dalam bidang penelitian interdisipliner;

● Associate Professor Luu Anh Tuan, Nanyang Technological University, Singapura, Direktur Eksekutif Pusat Penelitian Kecerdasan Buatan di VinUni University, Vietnam;

● Prof. Edson Prestes, Universitas Federal Rio Grande do Sul, Brasil, Kepala Kelompok Penelitian Non-Robotika dan Peneliti Dewan Penelitian Nasional Brasil untuk Pengembangan Ilmiah dan Teknologi (CNPq), anggota Komisi Global tentang AI yang Bertanggung Jawab di Sektor Militer;

● Prof. Leslie Gabriel Valiant, FRS, Universitas Harvard, AS, Pemenang Penghargaan AM Turing (2010), Anggota Dewan Penghargaan VinFuture;

● Profesor Toby Walsh, Cendekiawan Kehormatan ARC dan Profesor Scientia AI di UNSW Sydney, Australia, Direktur Ilmiah UNSW.AI, Institut AI Interdisipliner UNSW;

Presentasi video:

● Prof. Yoshua Bengio, Université de Montréal, Wakil Ketua dan CEO LawZero, Pendiri dan Penasihat Ilmiah Mila AI Institute – Quebec, Kanada, anggota Dewan Penasihat Sains Perserikatan Bangsa-Bangsa tentang Terobosan dalam Sains dan Teknologi; Penerima Bersama Hadiah Utama VinFuture 2024;

● Dr. Vinton Gray Cerf, Google, AS, salah satu “bapak Internet”; salah satu Penerima Hadiah Utama VinFuture 2022;

Prof. Geoffrey Hinton, Universitas Toronto, Kanada, Pemenang Hadiah Nobel Fisika 2024 dan dihormati sebagai “Bapak AI”; Pemenang Bersama Hadiah Utama VinFuture 2024;

Sumber: https://vietnamnet.vn/nhung-bo-nao-xuat-sac-nhat-the-gioi-dang-chuan-bi-do-bo-viet-nam-2465795.html