Kerentanan ini memungkinkan penyerang untuk menyuntikkan perintah berbahaya langsung ke dalam memori AI, mengubah fitur yang berguna menjadi senjata permanen untuk mengeksekusi kode sembarangan (Gambar ilustrasi: ST).
Menurut laporan dari LayerX Security, serangan ini mengeksploitasi kerentanan Cross-Site Request Forgery (CSRF) untuk menyuntikkan perintah berbahaya ke dalam memori permanen ChatGPT.
Fitur "Memori", yang awalnya dirancang agar AI dapat mengingat detail penting seperti nama pengguna dan preferensi untuk respons yang dipersonalisasi, kini dapat "dirusak".
Setelah memori terinfeksi malware, perintah-perintah ini akan tetap ada secara permanen—kecuali pengguna menghapusnya secara manual melalui pengaturan—dan dapat dipicu di berbagai perangkat dan sesi.
"Yang membuat kerentanan ini sangat berbahaya adalah karena menargetkan memori persisten AI, bukan hanya sesi peramban," kata Michelle Levy, Direktur Riset Keamanan di LayerX Security.
Levy menjelaskan: "Sederhananya, penyerang menggunakan trik untuk 'menipu' AI, memaksanya untuk menulis perintah berbahaya ke dalam memorinya. Bagian yang paling berbahaya adalah perintah ini akan tetap ada secara permanen di dalam AI – bahkan jika pengguna berganti komputer, keluar dan masuk kembali, atau bahkan menggunakan peramban yang berbeda."
Kemudian, ketika pengguna melakukan permintaan yang sepenuhnya normal, mereka mungkin secara tidak sengaja mengaktifkan malware. Akibatnya, peretas dapat menjalankan kode secara diam-diam, mencuri data, atau mendapatkan kendali yang lebih tinggi atas sistem.”
Skenario serangan yang dijelaskan cukup sederhana: Pertama, pengguna masuk ke ChatGPT Atlas. Mereka tertipu untuk mengklik tautan berbahaya, kemudian situs web berbahaya tersebut secara diam-diam memicu permintaan CSRF, menyisipkan instruksi berbahaya secara diam-diam ke dalam memori ChatGPT korban.
Terakhir, ketika pengguna mengajukan permintaan yang sepenuhnya sah, misalnya meminta AI untuk menulis kode, "ingatan" yang terinfeksi akan terpicu.
LayerX menunjukkan bahwa masalah ini diperparah oleh kurangnya kontrol anti-phishing yang kuat dari ChatGPT Atlas.
Dalam pengujian yang melibatkan lebih dari 100 kerentanan dan situs phishing, Atlas hanya berhasil memblokir 5,8% situs web berbahaya.
Angka ini terlalu rendah jika dibandingkan dengan Google Chrome (47%) atau Microsoft Edge (53%), sehingga pengguna Atlas "hingga 90% lebih rentan" terhadap serangan dibandingkan dengan peramban tradisional.
Penemuan ini menyusul kerentanan injeksi malware cepat lainnya yang sebelumnya telah ditunjukkan oleh NeuralTrust, yang menunjukkan bahwa peramban AI menjadi front serangan baru.
OpenAI meluncurkan peramban web ChatGPT Atlas awal pekan lalu. Tak heran, OpenAI mengintegrasikan mesin kecerdasan buatan ChatGPT ke dalam peramban ini, memberikan dukungan yang lebih baik bagi pengguna saat menjelajahi web.
Setiap kali pengguna mengklik hasil pencarian di ChatGPT Atlas, kotak dialog ChatGPT akan muncul tepat di sebelah jendela halaman web, memungkinkan mereka untuk mengajukan pertanyaan terkait konten yang sedang dilihat, sehingga menghemat waktu membaca.
ChatGPT juga dapat meringkas konten situs web, mengedit teks saat menyusun email, atau menyarankan cara untuk menulis ulang agar lebih sesuai dengan konteksnya.
Sumber: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Komentar (0)