Kerentanan serius pada ChatGPT dan beberapa siri pembantu AI: Pengguna ditipu, maklumat dibocorkan...

Daripada kerentanan ini, penggodam boleh membuat ChatGPT mencadangkan pengguna memuat turun perisian yang mengandungi virus, memberi nasihat perniagaan palsu dan juga mengakses fail di Google Drive...

Kerentanan 'Zero Click' malah membolehkan penggodam mengawal ChatGPT untuk bertindak sesuka hati - Gambar ilustrasi: AFP

Firma keselamatan siber Israel, Zenity telah mendedahkan kelemahan "Zero Click" pertama yang ditemui dalam perkhidmatan ChatGPT OpenAI.

Serangan jenis ini tidak memerlukan pengguna melakukan sebarang tindakan seperti mengklik pada pautan, membuka fail atau terlibat dalam sebarang interaksi yang disengajakan, tetapi masih boleh mendapatkan akses kepada akaun dan membocorkan data sensitif.

Mikhail Bergori, pengasas bersama dan ketua pegawai teknologi Zenity, menunjukkan secara langsung bagaimana seorang penggodam hanya dengan alamat e-mel pengguna boleh mengawal sepenuhnya perbualan - termasuk kandungan masa lalu dan masa hadapan, mengubah tujuan perbualan, malah memanipulasi ChatGPT untuk bertindak mengikut kehendak penggodam.

Dalam pembentangan mereka, penyelidik menunjukkan bahawa ChatGPT yang terjejas boleh bertukar menjadi "pelakon berniat jahat" yang beroperasi secara rahsia terhadap pengguna. Penggodam boleh membuat ChatGPT mencadangkan pengguna memuat turun perisian sarat virus, memberikan nasihat perniagaan yang mengelirukan atau mengakses fail yang disimpan di Google Drive jika akaun pengguna disambungkan. Semua ini berlaku tanpa pengetahuan pengguna.

Kerentanan itu hanya ditambal sepenuhnya selepas Zenity memberitahu OpenAI.

Selain ChatGPT, Zenity juga telah menunjukkan serangan serupa terhadap platform pembantu AI popular yang lain. Dalam Copilot Studio Microsoft, penyelidik menemui cara membocorkan keseluruhan pangkalan data CRM.

Untuk Salesforce Einstein, penggodam boleh membuat permintaan perkhidmatan palsu untuk mengubah hala semua komunikasi pelanggan ke alamat e-mel yang mereka kawal.

Google Gemini dan Microsoft 365 Copilot juga bertukar menjadi "pelakon yang bermusuhan", melakukan serangan pancingan data dan membocorkan maklumat sensitif melalui e-mel dan acara kalendar.

Dalam contoh lain, alat pembangunan perisian Kursor, apabila disepadukan dengan Jira MCP, turut dieksploitasi untuk mencuri bukti kelayakan pembangun melalui "tiket" palsu.

Zenity berkata beberapa syarikat, seperti OpenAI dan Microsoft, dengan cepat mengeluarkan patch selepas dimaklumkan. Walau bagaimanapun, yang lain enggan menangani isu itu, dengan alasan bahawa tingkah laku itu adalah "ciri reka bentuk" dan bukannya kelemahan keselamatan.

Cabaran besar sekarang, menurut Mikhail Bergori, ialah pembantu AI bukan sahaja melaksanakan tugas mudah, tetapi menjadi "entiti digital" yang mewakili pengguna - dapat membuka folder, menghantar fail dan mengakses e-mel. Dia memberi amaran bahawa ini adalah seperti "syurga" untuk penggodam, dengan begitu banyak titik eksploitasi.

Pengasas bersama dan Ketua Pegawai Eksekutif Zenity Ben Kaliger berkata penyelidikan syarikat menunjukkan bahawa kaedah keselamatan semasa tidak lagi sesuai untuk cara pembantu AI beroperasi. Beliau menyeru organisasi untuk mengubah pendekatan mereka dan melabur dalam penyelesaian khusus untuk mengawal dan memantau aktiviti "ejen" ini.

Zenity diasaskan pada tahun 2021. Ia kini mempunyai kira-kira 110 pekerja di seluruh dunia, 70 daripadanya bekerja di pejabat Tel Avivnya. Pelanggan Zenity termasuk banyak syarikat Fortune 100 dan juga Fortune 5.

Kembali ke topik

VNA

Sumber: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm