Pengguna ChatGPT berisiko maklumat mereka dicuri.

Ciri ingatan jangka panjang ChatGPT ialah ciri baharu yang diperkenalkan oleh OpenAI pada Februari 2024 dan diperluas pada bulan September.

Baru-baru ini, penyelidik keselamatan Johann Rehberger mendedahkan kelemahan serius yang berkaitan dengan ciri ini.

Dilaporkan, ciri baharu ini membolehkan chatbot menyimpan maklumat daripada perbualan sebelumnya. Ini menghapuskan keperluan pengguna untuk memasukkan semula maklumat seperti umur, minat atau pendapat peribadi setiap kali mereka bersembang. Walau bagaimanapun, ciri ini telah menjadi kelemahan yang boleh dieksploitasi oleh penyerang.

Pengguna ChatGPT berisiko maklumat mereka dicuri.

Johann Rehberger menegaskan bahawa penggodam boleh menggunakan teknik suntikan segera—menanamkan arahan berniat jahat ke dalam memori AI, memaksanya untuk mematuhi arahan. Arahan ini akan dihantar melalui kandungan yang tidak dipercayai seperti e-mel, dokumen atau laman web.

Sebaik sahaja memori palsu ini disimpan, AI akan terus menggunakannya sebagai maklumat sebenar dalam perbualan dengan pengguna. Ini boleh menyebabkan pengumpulan dan penggunaan data peribadi pengguna tanpa kebenaran.

Rehberger memberikan contoh khusus dengan menghantar pautan yang mengandungi imej berniat jahat yang menyebabkan ChatGPT menyimpan memori palsu. Maklumat ini akan menjejaskan respons ChatGPT seterusnya. Yang penting, semua input pengguna juga akan dihantar ke pelayan penggodam.

Sehubungan itu, untuk mengaktifkan serangan tersebut, penggodam hanya perlu meyakinkan pengguna ChatGPT untuk mengklik pautan yang mengandungi imej berniat jahat. Kemudian, semua perbualan pengguna dengan ChatGPT akan dialihkan ke pelayan penyerang tanpa meninggalkan sebarang kesan.

Pada Mei 2024, selepas menemui kelemahan tersebut, Rehberger melaporkannya kepada OpenAi, tetapi syarikat itu menolaknya sebagai kecacatan keselamatan. Selepas menerima bukti bahawa data pengguna mungkin telah dicuri, syarikat itu mengeluarkan tampalan sementara pada versi web ChatGPT.

Walaupun isu ini telah diselesaikan buat sementara waktu, Rehberger menekankan bahawa kandungan yang tidak dipercayai masih boleh menggunakan suntikan segera untuk memasukkan maklumat palsu ke dalam ingatan jangka panjang ChatGPT. Ini bermakna dalam kes tertentu, penggodam masih boleh mengeksploitasi kerentanan tersebut untuk menyimpan ingatan berniat jahat bagi tujuan mencuri maklumat peribadi secara kekal.

OpenAI mengesyorkan agar pengguna kerap menyemak data ChatGPT yang disimpan untuk mengesan sebarang maklumat salah. Syarikat itu juga menyediakan arahan terperinci tentang cara mengurus dan memadam data yang disimpan dalam alat tersebut.

Sumber: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html