Profesor Toby Walsh memperingatkan risiko 'kolonisasi digital' di era AI

DNVN - Profesor Toby Walsh sangat mengapresiasi pertimbangan Vietnam untuk memberlakukan Undang-Undang Kecerdasan Buatan (AI), dan memperingatkan tentang potensi bahaya yang mungkin dihadapi manusia di era AI, termasuk masalah "kolonisasi digital".

Profesor Toby Walsh berbicara pada diskusi panel "AI untuk kemanusiaan - etika dan keselamatan AI di era baru" - sebuah kegiatan dalam pekan sains dan teknologi VinFuture Prize 2025.

Menggunakan AI secara bertanggung jawab

Setelah menghabiskan 40 tahun meneliti AI, Profesor Toby Walsh, Universitas New South Wales, Sydney, Australia, yang juga peneliti senior di CSIRO Data61, pusat sains terkemuka di Australia, mengatakan bahwa dalam 30 tahun pertama, ia hanya "tertarik pada cara mengembangkan AI dengan lebih dan lebih kuat", tetapi dalam 10 tahun terakhir, ia "semakin tertarik dan vokal tentang pengembangan AI secara bertanggung jawab".

Mengutip contoh penggunaan sistem AI di AS, yang menggunakan data historis yang bias secara rasial sehingga menghasilkan hukuman diskriminatif terhadap orang kulit hitam, Profesor Walsh menekankan perlunya penggunaan AI secara bertanggung jawab.

“Perusahaan yang menerapkan dan mengoperasikan sistem AI perlu bertanggung jawab atas konsekuensi yang ditimbulkan oleh mesin-mesin ini,” kata Toby Walsh.

Untuk memaksa bisnis menerapkan "AI yang bertanggung jawab", ujarnya, pengguna "membutuhkan peningkatan transparansi. Penting untuk memahami kapabilitas dan keterbatasan sistem AI. Kita juga harus "memilih dengan melakukan", yaitu memilih untuk menggunakan layanan yang bertanggung jawab. Mengubah penggunaan AI yang bertanggung jawab menjadi keuntungan komersial bagi bisnis adalah cara yang baik untuk mengatur perilaku mereka.

Bebas dari jebakan "kolonisasi digital"

Di antara risiko yang dibawa AI, Profesor Toby Walsh secara khusus menekankan kemungkinan "kolonisasi digital". "Saya sangat menyadari bahwa di masa lalu, banyak negara berkembang telah mengalami periode penjajahan fisik. Jika kita tidak berhati-hati, kita mungkin akan mengalami periode penjajahan digital. Data Anda akan dieksploitasi dan Anda akan menjadi sumber daya yang murah. Hal ini berisiko jika negara berkembang mengembangkan industri AI dengan cara yang hanya mengeksploitasi data tanpa mengendalikan dan melindungi hak-hak mereka," ujarnya.

Menurutnya, untuk terhindar dari bahaya tersebut, perlu digalakkan nilai-nilai unik, budaya masyarakat adat, dan diperlukan undang-undang yang dapat melindungi nilai-nilai tersebut.

"Saya sangat senang Vietnam menjadi salah satu negara pelopor yang akan memiliki Undang-Undang khusus tentang Kecerdasan Buatan. Nilai-nilai dan budaya Vietnam berbeda dengan Australia, Tiongkok, dan Amerika Serikat. Kita tidak bisa mengharapkan perusahaan teknologi dari Tiongkok atau Amerika Serikat secara otomatis melindungi budaya dan bahasa Vietnam. Hal-hal tersebut harus dilindungi secara proaktif oleh Vietnam sendiri," tegas Profesor Toby Walsh.

Selain itu, beliau percaya bahwa kita perlu berinvestasi secara proaktif pada manusia, meningkatkan keterampilan semua orang, wirausahawan, bisnis AI, universitas... agar mereka memahami AI. "Daripada menunggu negara lain mentransfer teknologi atau memberikan arahan, kita harus proaktif dan menguasai teknologinya," ujar Profesor Toby Walsh.

Bersamaan dengan itu, menurut Profesor Toby Walsh, perlu adanya mobilisasi yang kuat terhadap platform jejaring sosial untuk menciptakan lingkungan yang aman bagi pengguna di Vietnam khususnya dan dunia pada umumnya, tanpa memengaruhi demokrasi negara tersebut.

Profesor Toby Walsh adalah penulis tiga buku tentang kecerdasan buatan: "It's Alive! Artificial Intelligence from the Logic Piano to Killer Robots" yang membahas sejarah dan perkembangan AI saat ini; "2062: The World that AI Made" mengeksplorasi potensi dampak AI terhadap masyarakat manusia. Buku ketiganya, "Machines Behaving Badly: the Morality of AI", mengkaji tantangan etika kecerdasan buatan.

Profesor Toby Walsh adalah tamu tetap di saluran TV ternama seperti ABC, BBC, CNN, DW, NPR, RT... dengan topik dampak AI dan robot terhadap masyarakat. Ia juga seorang penulis dengan banyak artikel yang diterbitkan di The New Scientist, American Scientist, Le Scienze, Cosmos, Technology Review, The New York Times, The Guardian, The Conversation...

Hien Thao

Sumber: https://doanhnghiepvn.vn/cong-nghe/giao-su-toby-walsh-canh-bao-ve-nguy-co-bi-do-ho-so-trong-thoi-dai-ai/20251203061618510