Penggodam boleh mendapatkan maklumat syarikat yang sangat sulit dengan 'bersembang' dengan chatbot AI.

Menurut pakar teknologi, dengan menggunakan beberapa arahan yang canggih, penggodam boleh menyusup masuk ke pangkalan data 'sulit' syarikat tanpa dikesan.

Gambaran Keseluruhan acara Hari Anak Negeri OpenInfra & Cloud Vietnam 2025 dengan tema "Era Kejayaan Digital Vietnam" - Foto: CHI HIEU

Kecerdasan Buatan (AI) menawarkan banyak manfaat, dan kini sedang disepadukan oleh banyak perniagaan untuk memberi perkhidmatan kepada pengguna akhir seperti pekerja syarikat dan pelanggan. Walau bagaimanapun, penyepaduan ini juga boleh mewujudkan kelemahan yang membolehkan penggodam menyerang dan mencuri maklumat daripada sistem storan data.

"Pada masa ini, terdapat banyak kaedah untuk menyerang model AI, yang paling biasa ialah 'keracunan kandungan', sejenis serangan yang kelihatan 'tidak kelihatan' kepada sistem perlindungan maklumat tradisional," amaran Encik Dao Viet Hung, Pengarah Negara Akamai Technologies Vietnam, di acara OpenInfra & Cloud Native Day Vietnam 2025 yang diadakan pada 26 Julai di Hanoi .

Acara ini dianjurkan oleh Persatuan Internet Vietnam (VIA) dengan kerjasama Komuniti Infrastruktur Terbuka Vietnam (VietOpenInfra), Kelab Pusat Data dan Pengkomputeran Awan Vietnam (VNCDC), dengan sokongan Kementerian Sains dan Teknologi .

90% perniagaan menggunakan platform atau perisian sumber terbuka.

Dalam ucapan pembukaannya, Encik Vu The Binh, Naib Presiden dan Setiausaha Agung Persatuan Internet Vietnam, menekankan kepentingan infrastruktur terbuka dan sumber terbuka dalam proses transformasi digital negara.

Dalam konteks teknologi global yang pantas berubah, Encik Binh menyatakan bahawa infrastruktur terbuka terus berkembang sebagai asas untuk inovasi, dengan lebih 90% perniagaan menggunakan platform atau perisian terbuka dalam pelbagai bentuk.

Menurut tinjauan Red Hat (2024), 82% pemimpin teknologi melihat platform dan perisian terbuka sebagai kunci untuk memacu transformasi digital dan mempercepat inovasi. Platform seperti Kubernetes, OpenStack, Linux, Ceph dan OpenTelemetry semakin memainkan peranan penting dalam operasi sistem AI, IoT, 5G/6G dan Cloud Native.

"Sepuluh tahun yang lalu, awan mungkin telah disalah anggap sebagai awan di langit, dan sumber terbuka mungkin kedengaran seperti 'teknik seni mempertahankan diri rahsia'. Tetapi hari ini, kita berada di sini, berhubung dengan komuniti Infrastruktur Terbuka global di lebih 180 buah negara, bekerjasama untuk mengubah baris kod menjadi daya penggerak inovasi," kongsi Encik Vu The Binh.

Bot sembang AI – "tingkap sempit" untuk penggodam menyusup masuk ke dalam sistem.

"Pada masa ini, banyak perniagaan sedang giat mengaplikasikan manfaat platform terbuka dan responsif dengan sistem bersepadu seperti chatbot AI untuk meningkatkan kecekapan kerja dan pengalaman pengguna."

Dari sudut inilah banyak kaedah serangan yang menyasarkan model AI muncul, termasuk serangan "keracunan kandungan", Dao Viet Hung, pengarah negara Akamai Technologies Vietnam memberi amaran.

Beliau menyatakan bahawa perniagaan Vietnam, ketika menggunakan AI, masih kekurangan pengetahuan yang mencukupi tentang serangan jenis ini.

Sehubungan itu, pelaku yang berniat jahat menggunakan kaedah berulang kali meminta dan mengajar semula model AI maklumat palsu, menyebabkan maklumat "keracunan".

Jika maklumat pada sistem awan telah "dijangkiti" tetapi masih tidak dikesan dan terus digunakan, ia akan memberikan maklumat yang tidak tepat atau mengeksploitasi kelemahan ini untuk mengakses pangkalan data bagi tujuan mencuri maklumat.

Encik Dao Viet Hung, Pengarah Negara Akamai Technologies Vietnam - Foto: CHI HIEU

Encik Dao Viet Hung memetik kisah-kisah luar biasa, seperti apabila sistem chatbot jualan dalam talian sebuah syarikat automobil dipujuk untuk menjual kereta baharu dengan hanya $1.

Sebabnya ialah semasa proses pertukaran dan rundingan dengan chatbot, pelanggan ini berjaya "memintas" pangkalan data dan memujuk chatbot untuk bersetuju dengan permintaan tersebut.

Satu lagi contoh menunjukkan seorang penggodam berjaya mendapatkan semua dokumen sulit dan carta organisasi sesebuah syarikat hanya dengan membuat soalan yang sesuai dan menghantarnya ke chatbot AI dalaman.

Berdasarkan risiko tersebut, Encik Dao Viet Hung berkongsi penyelesaian keselamatan AI di mana AI melindungi AI, satu kaedah yang digunakan oleh banyak perniagaan besar di seluruh dunia .

Dengan kaedah keselamatan ini, data yang disimpan menggabungkan pelbagai lapisan perlindungan, menjadikannya sukar untuk "dijangkiti".

Sistem keselamatan AI boleh mengesan maklumat yang bersih dan maklumat yang berpotensi menimbulkan risiko serangan, dan kemudian mengambil tindakan yang cepat dan sesuai...

Kembali ke topik

KETAKWAAN KELUARGA

Sumber: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm