Pengguna ChatGPT Atlas mungkin datanya dicuri dengan malware "permanen"

(Dan Tri) - Peramban AI OpenAI ChatGPT Atlas baru saja ditemukan memiliki kerentanan keamanan yang serius.

Kerentanan ini memungkinkan penyerang untuk menyuntikkan perintah berbahaya ke dalam memori AI itu sendiri, mengubah fitur yang berguna menjadi senjata gigih untuk menjalankan kode sembarangan (Foto ilustrasi: ST).

Menurut laporan dari LayerX Security, serangan ini mengeksploitasi kerentanan pemalsuan permintaan lintas situs (CSRF) untuk menyuntikkan perintah berbahaya ke dalam memori persisten ChatGPT.

Fitur "Memori", yang dirancang agar AI mengingat detail berguna seperti nama dan preferensi pengguna untuk mempersonalisasi respons, kini dapat "dirusak".

Setelah memori terinfeksi, perintah ini akan tetap ada secara permanen – kecuali pengguna secara manual masuk ke pengaturan untuk menghapusnya – dan dapat dipicu di beberapa perangkat dan sesi.

"Yang membuat kerentanan ini sangat berbahaya adalah ia menargetkan memori persisten AI, bukan hanya sesi peramban," kata Michelle Levy, direktur penelitian keamanan di LayerX Security.

"Sederhananya, penyerang menggunakan trik untuk 'mengelabui' AI agar menulis perintah berbahaya ke dalam memorinya," jelas Levy. "Yang paling berbahaya adalah perintah ini tetap tersimpan di AI selamanya – bahkan jika pengguna berganti komputer, keluar dan masuk kembali, atau bahkan menggunakan peramban yang berbeda."

Nantinya, ketika pengguna membuat permintaan yang sepenuhnya normal, mereka mungkin secara tidak sengaja memicu kode berbahaya. Akibatnya, peretas dapat menjalankan kode di latar belakang, mencuri data, atau mendapatkan kendali lebih tinggi atas sistem.

Skenario serangan yang dijelaskan cukup sederhana: Pertama, pengguna masuk ke ChatGPT Atlas. Mereka ditipu untuk mengeklik tautan berbahaya, lalu situs berbahaya tersebut secara diam-diam memicu permintaan CSRF, diam-diam menyuntikkan instruksi berbahaya ke dalam memori ChatGPT korban.

Akhirnya, ketika pengguna membuat pertanyaan yang sepenuhnya sah, misalnya meminta AI untuk menulis kode, “ingatan” yang terkontaminasi akan terpicu.

Masalah ini diperburuk oleh kurangnya kontrol anti-phishing yang kuat pada ChatGPT Atlas, kata LayerX.

Dalam pengujian dengan lebih dari 100 eksploitasi dan situs phishing, Atlas hanya memblokir 5,8% situs berbahaya.

Angka ini terlalu rendah jika dibandingkan dengan Google Chrome (47%) atau Microsoft Edge (53%), sehingga membuat pengguna Atlas "hingga 90% lebih rentan" terhadap serangan dibandingkan peramban tradisional.

Penemuan ini menyusul kerentanan injeksi malware cepat lainnya yang sebelumnya ditunjukkan oleh NeuralTrust, yang menunjukkan bahwa peramban AI menjadi titik serangan baru.

Peramban web ChatGPT Atlas baru saja diluncurkan oleh OpenAI awal pekan lalu. Tak heran jika OpenAI mengintegrasikan alat kecerdasan buatan ChatGPT ke dalam peramban ini, membantu memberikan dukungan yang lebih baik bagi pengguna saat menjelajahi web.

Setiap kali pengguna mengklik hasil pencarian di ChatGPT Atlas, kotak dialog ChatGPT muncul tepat di sebelah jendela halaman web, yang memungkinkan mereka mengajukan pertanyaan terkait konten yang sedang mereka lihat, sehingga menghemat waktu membaca.

ChatGPT juga dapat meringkas konten halaman web, mengedit teks saat menulis email, atau menyarankan penulisan ulang agar lebih sesuai dengan konteks.

Sumber: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm