Peretas bisa mendapatkan informasi rahasia perusahaan dengan 'berbicara' dengan chatbot AI

Menurut para ahli teknologi, dengan menggunakan serangkaian perintah canggih, peretas dapat menembus basis data 'rahasia' suatu perusahaan tanpa terdeteksi.

Ikhtisar acara OpenInfra & Cloud Native Day Vietnam 2025 dengan tema "Era terobosan digital Vietnam" - Foto: CHI HIEU

Kecerdasan Buatan (AI) membawa banyak nilai, terutama saat ini yang telah diintegrasikan oleh banyak bisnis untuk melayani pengguna akhir seperti karyawan perusahaan, pelanggan... Dari sini, sistem chatbot yang terintegrasi dengan AI dapat menjadi "pintu sempit" bagi peretas untuk menyerang dan mencuri informasi pada sistem penyimpanan data.

"Saat ini, ada banyak metode untuk menyerang model AI, yang paling umum adalah 'peracunan konten', yang tampaknya 'tidak terlihat' oleh sistem perlindungan informasi tradisional," demikian peringatan Bapak Dao Viet Hung, direktur negara Akamai Technologies Vietnam, pada acara OpenInfra & Cloud Native Day Vietnam 2025 yang diselenggarakan pada tanggal 26 Juli di Hanoi .

Acara ini diselenggarakan oleh Asosiasi Internet Vietnam (VIA) bekerja sama dengan Komunitas Infrastruktur Terbuka Vietnam (VietOpenInfra), Klub Komputasi Awan dan Pusat Data Vietnam (VNCDC), dengan dukungan Kementerian Sains dan Teknologi .

90% bisnis menggunakan platform atau perangkat lunak terbuka

Dalam pidato pembukaannya, Bapak Vu The Binh - Wakil Presiden dan Sekretaris Jenderal Asosiasi Internet Vietnam - menekankan pentingnya infrastruktur terbuka dan kode sumber terbuka dalam proses transformasi digital nasional.

Dalam konteks perubahan cepat dalam teknologi global, Tn. Binh mengatakan bahwa infrastruktur terbuka terus berkembang sebagai landasan inovasi ketika lebih dari 90% bisnis menggunakan platform atau perangkat lunak terbuka dalam berbagai bentuk.

Menurut survei Red Hat (2024), 82% pemimpin teknologi memandang platform dan perangkat lunak terbuka sebagai kunci untuk mendorong transformasi digital dan mempercepat inovasi. Platform seperti Kubernetes, OpenStack, Linux, Ceph, dan OpenTelemetry semakin memainkan peran penting dalam pengoperasian sistem AI, IoT, 5G/6G, dan Cloud Native.

"10 tahun yang lalu, cloud mungkin disalahartikan sebagai awan di langit, dan sumber terbuka terdengar seperti 'rahasia seni bela diri'. Namun hari ini, kami hadir di sini, terhubung dengan komunitas Infrastruktur Terbuka global di lebih dari 180 negara, bersama-sama mengubah baris kode menjadi kekuatan pendorong inovasi," ujar Bapak Vu The Binh.

AI Chatbot - "pintu sempit" bagi peretas untuk menembus sistem

Saat ini, banyak bisnis yang sangat menerapkan efektivitas platform terbuka dan responsif yang mengintegrasikan sistem seperti chatbot AI untuk membantu meningkatkan kinerja kerja dan meningkatkan pengalaman pengguna.

Dari sini juga, banyak metode serangan pada model AI, termasuk serangan "peracunan konten", memperingatkan Bapak Dao Viet Hung, direktur negara Akamai Technologies Vietnam.

Ia mengomentari bahwa bisnis Vietnam saat menerapkan AI masih belum tahu banyak tentang bentuk serangan ini.

Oleh karena itu, pelaku kejahatan menggunakan metode terus-menerus menanyakan dan mengajarkan kembali informasi palsu kepada model AI, yang menyebabkan "keracunan informasi".

Jika informasi pada sistem cloud telah "terinfeksi" dan tidak terdeteksi serta terus digunakan, maka sistem tersebut akan memberikan informasi yang salah atau memanfaatkan kerentanan ini untuk menyusup ke dalam basis data dengan tujuan memperoleh informasi.

Bapak Dao Viet Hung, Country Director Akamai Technologies Vietnam - Foto: CHI HIEU

Bapak Dao Viet Hung mengutip kisah langka, ketika sistem chatbot penjualan daring sebuah perusahaan mobil diyakinkan untuk menjual mobil baru hanya seharga $1.

Pasalnya, saat proses pertukaran dan negosiasi dengan chatbot, pelanggan ini menemukan cara untuk "menyelinap" ke dalam basis data dan meyakinkan chatbot agar menyetujui permintaan di atas.

Contoh lain adalah ketika peretas berhasil memperoleh semua dokumen rahasia dan bagan organisasi suatu perusahaan hanya dengan menyusun pertanyaan yang tepat dan mengirimkannya ke chatbot AI internal.

Dari risiko tersebut, Bapak Dao Viet Hung membagikan solusi keamanan AI agar AI itu sendiri dapat melindungi AI, ini merupakan bentuk yang digunakan oleh banyak perusahaan besar di dunia .

Dengan metode keamanan ini, data yang disimpan mengintegrasikan beberapa lapisan perlindungan, sehingga sulit untuk "terinfeksi".

Sistem keamanan AI dapat mendeteksi informasi mana yang bersih dan informasi mana yang berpotensi risiko serangan, dari situ akan dibuat rencana penanganan yang cepat dan tepat...

Kembali ke topik

KESALEHAN

Sumber: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm