Bisnis yang menggunakan AI secara bertanggung jawab akan mendapatkan keuntungan komersial

Diskusi panel "AI untuk kemanusiaan: etika dan keamanan AI di era baru" dalam rangka Pekan Sains dan Teknologi VinFuture 2025 mempertemukan para ilmuwan, politisi , dan penemu untuk membahas pengembangan AI yang bertanggung jawab, menuju nilai-nilai humanis.

Di sela-sela diskusi, Profesor Toby Walsh - Universitas New South Wales (Australia), Akademisi Asosiasi Mesin Komputasi Amerika berbagi tentang penggunaan AI yang etis dan bertanggung jawab.

Penggunaan AI yang bertanggung jawab harus menjadi suatu keharusan

Menurut Profesor, apakah penggunaan AI yang bertanggung jawab harus bersifat sukarela atau wajib? Dan bagaimana seharusnya kita bersikap terhadap AI?

Profesor Toby Walsh: Saya sangat yakin bahwa penggunaan AI yang bertanggung jawab harus diwajibkan. Saat ini, terdapat insentif yang menyimpang, mengingat besarnya jumlah uang yang dihasilkan dari AI, dan satu-satunya cara untuk memastikan perilaku yang baik adalah dengan menerapkan regulasi yang ketat, sehingga kepentingan publik selalu seimbang dengan kepentingan komersial.

- Dapatkah Anda memberikan contoh spesifik dari berbagai negara tentang penerapan AI yang bertanggung jawab dan etis?

Profesor Toby Walsh: Contoh klasiknya adalah keputusan berisiko tinggi, seperti penjatuhan hukuman dan penjatuhan hukuman di Amerika Serikat, di mana sistem AI digunakan untuk membuat rekomendasi tentang hukuman penjara seseorang dan kemungkinan mengulangi pelanggaran.

Sayangnya, sistem ini dibentuk berdasarkan data historis dan secara tidak sengaja mencerminkan bias rasial masa lalu yang menyebabkan diskriminasi terhadap orang kulit hitam. Kita seharusnya tidak membiarkan sistem seperti ini menentukan siapa yang akan dipenjara.

Ketika AI melakukan kesalahan, siapa yang bertanggung jawab? Khususnya dengan agen AI, apakah kita memiliki kemampuan untuk memperbaiki mekanisme operasinya?

Profesor Toby Walsh: Masalah inti ketika AI membuat kesalahan adalah kita tidak dapat meminta pertanggungjawaban AI. AI bukanlah manusia dan ini merupakan kelemahan dalam setiap sistem hukum di dunia . Hanya manusia yang bertanggung jawab atas keputusan dan tindakan mereka.

Tiba-tiba, kita memiliki "agen" baru bernama AI, yang dapat – jika kita mengizinkannya – membuat keputusan dan mengambil tindakan di dunia kita, yang menimbulkan tantangan: siapa yang akan kita minta pertanggungjawaban?

Jawabannya adalah dengan meminta pertanggungjawaban perusahaan yang menerapkan dan mengoperasikan sistem AI atas konsekuensi yang ditimbulkan oleh “mesin” ini.

Profesor Toby Walsh dari Universitas New South Wales menyampaikan presentasinya di seminar "AI untuk kemanusiaan: etika dan keamanan AI di era baru" dalam rangka Pekan Sains dan Teknologi VinFuture 2025. (Foto: Minh Son/Vietnam+)

Banyak perusahaan juga membicarakan tentang AI yang bertanggung jawab. Bagaimana kita bisa memercayai mereka? Bagaimana kita tahu bahwa mereka serius dan komprehensif, dan bukan sekadar menggunakan "AI yang bertanggung jawab" sebagai gimmick pemasaran?

Profesor Toby Walsh: Kita perlu meningkatkan transparansi. Penting untuk memahami kemampuan dan keterbatasan sistem AI. Kita juga harus "memilih dengan melakukan" – memilih untuk menggunakan layanan secara bertanggung jawab.

Saya sungguh percaya bahwa bagaimana bisnis menggunakan AI secara bertanggung jawab akan menjadi pembeda di pasar, memberi mereka keunggulan komersial. Jika sebuah perusahaan menghargai data pelanggan, perusahaan tersebut akan mendapatkan keuntungan dan menarik pelanggan.

Bisnis akan menyadari bahwa melakukan hal yang benar tidak hanya etis, tetapi juga akan membuat mereka lebih sukses. Saya melihat ini sebagai cara untuk membedakan antarbisnis, dan bisnis yang bertanggung jawab adalah bisnis yang membuat kita merasa nyaman berbisnis dengannya.

“Jika kita tidak berhati-hati, kita mungkin mengalami periode penjajahan digital”

Vietnam adalah salah satu dari sedikit negara yang mempertimbangkan untuk mengesahkan Undang-Undang Kecerdasan Buatan. Bagaimana penilaian Anda terhadap hal ini? Menurut Anda, bagi negara berkembang seperti Vietnam, apa saja tantangan terkait etika dan keamanan dalam pengembangan AI? Apa rekomendasi profesor agar Vietnam dapat mencapai tujuannya dalam strategi AI—menjadi yang terdepan di kawasan dan dunia dalam penelitian dan penguasaan AI?

Profesor Toby Walsh: Saya senang Vietnam menjadi salah satu negara pelopor yang akan memiliki Undang-Undang Kecerdasan Buatan. Hal ini penting karena setiap negara memiliki nilai dan budayanya sendiri, dan membutuhkan undang-undang untuk melindungi nilai-nilai tersebut.

Nilai-nilai dan budaya Vietnam berbeda dengan Australia, Tiongkok, dan Amerika Serikat. Kita tidak bisa mengharapkan perusahaan teknologi dari Tiongkok atau Amerika Serikat secara otomatis melindungi budaya dan bahasa Vietnam. Vietnam harus mengambil inisiatif untuk melindungi hal-hal ini.

Profesor Toby Walsh memperingatkan bahwa jika kita tidak berhati-hati, kita mungkin sedang mengalami periode penjajahan digital. (Foto: Minh Son/Vietnam+)

Saya ingat bahwa di masa lalu, banyak negara berkembang mengalami periode penjajahan fisik. Jika kita tidak berhati-hati, kita bisa mengalami periode "penjajahan digital". Data Anda akan dieksploitasi dan Anda akan menjadi sumber daya yang murah.

Hal ini berisiko jika negara berkembang mengembangkan industri AI dengan cara yang hanya mengeksploitasi data tanpa mengendalikan atau melindungi kepentingan mereka sendiri.

- Jadi bagaimana cara mengatasi situasi ini, Profesor?

Profesor Toby Walsh: Sederhana saja, berinvestasilah pada manusia. Tingkatkan keterampilan manusia, pastikan mereka memahami AI. Dukung wirausahawan, perusahaan, dan universitas yang bergerak di bidang AI. Bersikaplah proaktif. Alih-alih menunggu negara lain mentransfer teknologi atau membimbing kita, kita harus proaktif dan memiliki teknologinya sendiri.

Yang lebih penting, kita perlu secara kuat mengadvokasi platform media sosial untuk menciptakan lingkungan yang aman bagi pengguna di Vietnam, tanpa memengaruhi demokrasi negara tersebut.

Faktanya, ada banyak contoh bagaimana konten media sosial telah memengaruhi hasil pemilu, memecah belah negara, dan bahkan memicu terorisme.

AI sangat berkembang di Vietnam. Belakangan ini, Vietnam telah menerapkan banyak kebijakan untuk mempromosikan AI, tetapi Vietnam juga menghadapi masalah, yaitu penipuan yang disebabkan oleh AI. Jadi, menurut Profesor, bagaimana seharusnya Vietnam menangani situasi ini?

Profesor Toby Walsh: Bagi individu, saya rasa cara paling sederhana adalah memverifikasi informasi. Misalnya, ketika kita menerima panggilan telepon atau email, misalnya dari bank, kita perlu memeriksanya kembali: kita bisa menghubungi nomor telepon tersebut kembali atau menghubungi bank secara langsung untuk memverifikasi informasi. Saat ini, banyak email palsu, nomor telepon palsu, bahkan panggilan Zoom pun bisa dipalsukan. Penipuan ini sangat sederhana, murah, dan tidak memakan banyak waktu.

Di keluarga saya, kami juga punya langkah pengamanan sendiri: sebuah "pertanyaan rahasia" yang hanya diketahui anggota keluarga, misalnya nama kelinci peliharaan kami. Ini memastikan informasi penting tetap rahasia dan tidak bocor.

- Terima kasih banyak./.

Profesor Toby Walsh adalah Cendekiawan Kehormatan ARC dan Profesor Scientia di bidang Kecerdasan Buatan (AI) di University of New South Wales Sydney (UNSW). Ia merupakan pendukung kuat penetapan batasan untuk memastikan AI digunakan untuk meningkatkan kualitas hidup manusia.

Ia juga merupakan Anggota Akademi Ilmu Pengetahuan Australia dan telah dimasukkan dalam daftar internasional "tokoh berpengaruh dalam AI."

(Vietnam+)

Sumber: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp