Pengguna ChatGPT berisiko kecurian maklumat

Ciri ingatan jangka panjang ChatGPT ialah ciri baharu yang diperkenalkan oleh OpenAI pada Februari 2024 dan dikembangkan pada September.

Baru-baru ini, penyelidik keselamatan Johann Rehberger baru-baru ini mendedahkan kelemahan serius yang berkaitan dengan ciri ini.

Adalah diketahui bahawa ciri baharu ini membantu chatbots menyimpan maklumat daripada perbualan sebelumnya. Berkat itu, pengguna tidak perlu memasukkan semula maklumat seperti umur, minat atau pandangan peribadi setiap kali mereka berbual. Walau bagaimanapun, ini telah menjadi kelemahan bagi penyerang untuk mengeksploitasi.

Pengguna ChatGPT berisiko kecurian maklumat

Johann Rehberger telah menunjukkan bahawa penggodam boleh menggunakan teknik yang dipanggil suntikan segera—memasukkan arahan berniat jahat ke dalam ingatan, memaksa AI untuk mematuhi. Arahan ini akan dihantar melalui kandungan yang tidak dipercayai seperti e-mel, dokumen atau tapak web.

Sebaik sahaja kenangan palsu ini disimpan, AI akan terus menggunakannya sebagai mesej sebenar dalam perbualan dengan pengguna, yang boleh membawa kepada pengumpulan dan penyalahgunaan data peribadi pengguna.

Rehberger memberikan contoh konkrit dengan menghantar pautan yang mengandungi imej berniat jahat yang menyebabkan ChatGPT menyimpan memori palsu. Maklumat ini akan menjejaskan respons ChatGPT pada masa hadapan. Khususnya, sebarang maklumat yang dimasukkan pengguna juga akan dihantar ke pelayan penggodam.

Sehubungan itu, untuk mencetuskan serangan, penggodam hanya perlu meyakinkan pengguna ChatGPT untuk mengklik pada pautan yang mengandungi imej berniat jahat. Selepas itu, semua sembang pengguna dengan ChatGPT akan diubah hala ke pelayan penyerang tanpa meninggalkan sebarang kesan.

Rehberger melaporkan pepijat kepada OpenAi pada Mei 2024, tetapi syarikat itu hanya menganggapnya sebagai isu keselamatan. Selepas menerima bukti bahawa data pengguna boleh dicuri, syarikat itu mengeluarkan tampung sementara pada versi web ChatGPT.

Walaupun isu itu telah dibetulkan buat sementara waktu, Rehberger menyatakan bahawa kandungan yang tidak dipercayai masih boleh menggunakan suntikan Prompt untuk memasukkan maklumat palsu ke dalam ingatan jangka panjang ChatGPT. Ini bermakna bahawa dalam kes tertentu, penggodam masih boleh mengeksploitasi kelemahan untuk menyimpan kenangan berniat jahat untuk mencuri maklumat peribadi jangka panjang.

OpenAI mengesyorkan agar pengguna kerap menyemak kenangan tersimpan ChatGPT untuk mengetahui positif palsu, dan syarikat itu juga menyediakan arahan terperinci tentang cara mengurus dan memadamkan kenangan yang disimpan.

Sumber: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html