Kerentanan ini membolehkan penyerang menyuntik arahan berniat jahat terus ke dalam memori AI, sekali gus mengubah ciri berguna menjadi senjata berterusan untuk melaksanakan kod sewenang-wenangnya (Imej ilustrasi: ST).
Menurut laporan daripada LayerX Security, serangan ini mengeksploitasi kelemahan Pemalsuan Permintaan Silang Tapak (CSRF) untuk menyuntik arahan berniat jahat ke dalam memori berterusan ChatGPT.
Ciri "Memori", yang pada asalnya direka untuk AI bagi mengingati butiran berguna seperti nama pengguna dan pilihan untuk respons yang diperibadikan, kini boleh "dipecahkan".
Sebaik sahaja memori dijangkiti perisian hasad, arahan ini akan berterusan secara kekal—melainkan pengguna memadamkannya secara manual melalui tetapan—dan boleh dicetuskan merentasi berbilang peranti dan sesi.
"Apa yang menjadikan kerentanan ini amat berbahaya ialah ia menyasarkan memori berterusan AI, bukan hanya sesi pelayar," kata Michelle Levy, Pengarah Penyelidikan Keselamatan di LayerX Security.
Levy menjelaskan: "Secara ringkasnya, penyerang menggunakan helah untuk 'menipu' AI, memaksanya menulis arahan berniat jahat ke ingatannya. Bahagian yang paling berbahaya ialah arahan ini akan kekal secara kekal dalam AI – walaupun pengguna menukar komputer, log keluar dan log masuk semula, atau menggunakan pelayar yang berbeza."
Kemudian, apabila pengguna membuat permintaan yang normal, mereka mungkin secara tidak sengaja mengaktifkan perisian hasad tersebut. Akibatnya, penggodam boleh menjalankan kod secara senyap, mencuri data atau mendapatkan kawalan yang lebih tinggi ke atas sistem.”
Senario serangan yang diterangkan agak mudah: Pertama, pengguna log masuk ke ChatGPT Atlas. Mereka ditipu untuk mengklik pautan berniat jahat, kemudian laman web berniat jahat itu secara rahsia mencetuskan permintaan CSRF, memasukkan arahan berniat jahat secara senyap ke dalam memori ChatGPT mangsa.
Akhir sekali, apabila pengguna membuat pertanyaan yang sah, contohnya meminta AI menulis kod, "ingatan" yang dijangkiti akan dicetuskan.
LayerX menunjukkan bahawa masalah ini diburukkan lagi oleh kekurangan kawalan anti-pancingan data yang mantap di ChatGPT Atlas.
Dalam ujian yang melibatkan lebih 100 kerentanan dan tapak pancingan data, Atlas hanya berjaya menyekat 5.8% daripada laman web berniat jahat.
Angka ini terlalu sederhana berbanding Google Chrome (47%) atau Microsoft Edge (53%), menjadikan pengguna Atlas "sehingga 90% lebih terdedah" kepada serangan berbanding pelayar tradisional.
Penemuan ini menyusuli satu lagi kerentanan suntikan malware pantas yang sebelum ini ditunjukkan oleh NeuralTrust, menunjukkan bahawa pelayar AI menjadi barisan hadapan serangan baharu.
OpenAI melancarkan pelayar web ChatGPT Atlas awal minggu lalu. Tidak hairanlah, OpenAI telah mengintegrasikan enjin kecerdasan buatan ChatGPT ke dalam pelayar ini, memberikan sokongan yang lebih baik untuk pengguna semasa melayari web.
Setiap kali pengguna mengklik hasil carian dalam ChatGPT Atlas, kotak dialog ChatGPT akan muncul betul-betul di sebelah tetingkap halaman web, membolehkan mereka bertanya soalan berkaitan dengan kandungan yang sedang dilihat, sekali gus menjimatkan masa membaca.
ChatGPT juga boleh meringkaskan kandungan laman web, mengedit teks semasa mengarang e-mel atau mencadangkan cara untuk menulis semula agar lebih sesuai dengan konteksnya.
Sumber: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Komen (0)