Kecerdasan Buatan: Kita harus meningkatkan keamanan, bukan hanya fokus pada pengembangan kecerdasan buatan yang lebih kuat.

Diskusi panel “AI untuk kemanusiaan: etika dan keamanan AI di era baru”, dalam rangka Pekan Sains dan Teknologi VinFuture 2025, mempertemukan para ilmuwan , politisi , dan penemu untuk membahas pengembangan AI yang bertanggung jawab, menuju nilai-nilai humanis.

Segera pikirkan bagaimana hidup dengan AI - entitas yang lebih pintar dari Anda

Dalam seminar tersebut, Profesor Toby Walsh, Universitas New South Wales, Australia, dan Akademisi Asosiasi Komputer Amerika, menegaskan: "Saya sangat yakin bahwa penggunaan AI yang bertanggung jawab haruslah wajib. Saat ini, terdapat banyak insentif yang menyimpang, dengan sejumlah besar uang dihasilkan berkat AI, dan satu-satunya cara untuk memastikan perilaku yang tepat adalah dengan menerapkan peraturan yang ketat, sehingga kepentingan publik selalu seimbang dengan kepentingan komersial."

Ia mengutip contoh umum keputusan penting, seperti ajudikasi dan vonis di Amerika Serikat, di mana sistem AI digunakan untuk membuat rekomendasi tentang hukuman penjara seseorang dan kemungkinan mengulangi pelanggaran. Sayangnya, sistem ini dilatih berdasarkan data historis, dan secara tidak sengaja mencerminkan bias rasial di masa lalu, yang menyebabkan diskriminasi terhadap orang kulit hitam.

Profesor Toby Walsh, Universitas New South Wales, Australia, Anggota American Computer Society.

Oleh karena itu, perusahaan yang menerapkan dan mengoperasikan sistem AI harus bertanggung jawab atas konsekuensi yang ditimbulkan oleh “mesin” ini.

Profesor Geoffrey Hinton - Pemenang hadiah utama VF 2024, prihatin bahwa AI secara bertahap semakin mahir dalam merancang virus berbahaya, serangan siber, dan membuat video palsu untuk mengganggu pemilu. Dalam 20 tahun ke depan, AI akan menjadi lebih pintar dari kita dan kita tidak akan tahu bagaimana mencegahnya mengambil alih kendali manusia.

Oleh karena itu, Profesor ini menekankan: "Kita perlu segera memikirkan cara hidup berdampingan dengan entitas yang lebih pintar daripada kita. Ini adalah situasi yang belum pernah dihadapi umat manusia sebelumnya, ini baru, dan kita perlu melakukan banyak upaya penelitian sebelum itu terjadi."

Perlu meningkatkan kerja sama internasional untuk membatasi risiko AI

Senada dengan itu, Profesor Yoshua Bengio, Pemenang Hadiah Utama VinFuture 2024, mengatakan bahwa model AI, kapabilitas, dan tingkat otonominya masih berkembang pesat dan stabil. Jika tren ini berlanjut, sistem AI otonom dapat mengungguli manusia dalam sebagian besar tugas kognitif, hanya dalam 5-10 tahun.

Ini akan menjadi titik balik bersejarah yang dapat meningkatkan kualitas hidup kita secara drastis. Namun, jika tidak ditangani dengan hati-hati, hal ini juga dapat menimbulkan risiko besar bagi demokrasi, stabilitas geopolitik, dan bahkan masa depan umat manusia.

"Kita harus meningkatkan keamanan untuk AI canggih, alih-alih hanya berfokus untuk memperkuatnya. Keamanan dan kepercayaan bukanlah faktor sekunder, melainkan esensial dalam proses pengembangan menuju kemaslahatan umat manusia. Kita perlu bertindak bersama, baik di tingkat kebijakan maupun ilmiah," ujarnya.

Profesor Yoshua Bengio - Pemenang hadiah utama VinFuture 2024.

Ilmuwan ini merekomendasikan bahwa, dalam hal kebijakan, dunia membutuhkan kerja sama internasional. Dari segi sains, penting untuk lebih memahami cara merancang AI yang unggul dalam kemampuan dan tidak berbahaya bagi manusia, mempertahankan kemampuan untuk mengendalikan AI agar tetap aman bahkan ketika manusia memintanya berbuat salah, dan membangun hambatan teknis dan sosial untuk memastikan bahwa AI konsisten dengan norma, niat, nilai, dan kepentingan manusia.

Dr. Vinton Grey Cert (Wakil Presiden dan Direktur Internet Evangelism di Google - Pemenang Hadiah Utama VF 2022) setuju: Kita perlu meminta pertanggungjawaban AI, membangun rantai pengawasan untuk mengetahui apa yang mereka lakukan, kapan, terutama ketika terjadi kesalahan. Banyak prinsip yang berlaku untuk manusia juga akan berlaku untuk agen AI di lingkungan daring.

"Kita perlu secara bersamaan menetapkan norma-norma baru, di mana penggunaan identifikasi yang kuat, kriptografi untuk mengamankan informasi, penerapan mekanisme untuk memastikan akuntabilitas, dan melindungi identitas agar tidak dibajak oleh orang lain—menjadi kebiasaan yang rutin. Kita harus menggunakan teknologi untuk membatasi risiko sejak awal dan menegaskan bahwa siapa pun yang terbukti merugikan komunitas dan masyarakat harus menghadapi konsekuensi dari perilaku tersebut. Hal ini membutuhkan kerja sama internasional," ujarnya.

Vietnam perlu memiliki jalurnya sendiri dalam membangun data AI.

Profesor Madya Luu Anh Tuan, Nanyang Technological University (Singapura), dan VinUni University (Vietnam) mengatakan bahwa negara lain memiliki dataset sekitar 10 tahun, tetapi Vietnam memulai dari nol. Oleh karena itu, kita dapat membangun data berkelanjutan sejak awal, menyediakan data yang bersih, etis, dan sesuai budaya sejak awal.

Namun, tantangan terbesar bagi Vietnam adalah kekhususan bahasa Vietnam. Kami memiliki sistem dialek yang beragam, budaya daerah yang kaya, dan bentuk sapaan yang sangat kompleks. Model besar seperti ChatGPT atau Gemini mendukung bahasa Vietnam, tetapi kualitasnya kurang memadai karena mereka tidak memahami dialek, adat istiadat, atau sejarah Vietnam.

Vietnam perlu membangun model Vietnamnya sendiri. Selain itu, kita harus mengembangkan model sumber terbuka agar usaha kecil dapat menggunakan dan berkontribusi. "Jika kita hanya mengandalkan model asing dalam bentuk 'kotak hitam', kita hanya akan menjadi pengguna AI dan bukan pengembang AI," ujarnya.

Saat ini, Profesor Madya Luu Anh Tuan dan rekan-rekannya sedang membangun data AI Vietnam. Faktor-faktor seperti dialek, sejarah, dan budaya harus dipertimbangkan sebagai fokus.

Ia juga mengatakan bahwa di luar negeri, siswa dididik tentang AI sejak dini. Vietnam baru saja memulainya, tetapi kita dapat mempercepatnya dengan belajar dan menyesuaikan diri.

"Anak muda Vietnam sangat dinamis; mereka hanya perlu dididik secara menyeluruh tentang tanggung jawab digital. Kita perlu memiliki badan terpadu untuk memastikan dan menstandardisasi kualitas data dan standar etika. VinUni juga berpartisipasi dalam dewan untuk membangun sistem standar etika dan akan terus berkontribusi dalam proses ini," ujarnya.

Associate Professor Luu Anh Tuan, Nanyang Technological University (Singapura), VinUni University (Vietnam).

Menanggapi strategi FDI yang bertujuan menjadikan Vietnam pemimpin kawasan dalam bidang AI pada tahun 2030, Associate Professor Tuan yakin bahwa Vietnam memiliki sumber daya manusia berkualitas tinggi—dibuktikan melalui pencapaian internasional di bidang matematika, fisika, dan kimia. Jika kita mampu menyatukan kekuatan dan memiliki kebijakan yang kuat, tujuan 2030 dapat tercapai sepenuhnya.

Profesor Toby Walsh merekomendasikan agar Vietnam berinvestasi pada sumber daya manusia dan secara proaktif meningkatkan keterampilan mereka, memastikan mereka memahami AI; mendukung wirausahawan, bisnis, dan universitas AI. Alih-alih menunggu negara lain mentransfer teknologi atau membimbing kita, kita harus proaktif dan menguasai teknologi.

Selain itu, Vietnam perlu memobilisasi platform jejaring sosial secara kuat untuk menciptakan lingkungan yang aman bagi pengguna dalam negeri, tanpa memengaruhi demokrasi negara tersebut.

THAO LE-THIEN LAM

Sumber: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html