Israel: Amaran bahawa pembantu AI boleh menjadi agen berniat jahat untuk menyerang pengguna

Firma keselamatan siber Israel Zenity telah mendedahkan kerentanan "Zero Click" pertama yang ditemui dalam perkhidmatan ChatGPT OpenAI. Serangan jenis ini tidak memerlukan pengguna melakukan sebarang tindakan seperti mengklik pada pautan, membuka fail atau terlibat dalam sebarang interaksi yang dimaksudkan, tetapi masih boleh mendapatkan akses kepada akaun dan membocorkan data sensitif.

Menurut wartawan VNA di Tel Aviv, Encik Mikhail Bergori, pengasas bersama dan CTO Zenity, secara langsung menerangkan bagaimana penggodam hanya memerlukan alamat e-mel pengguna untuk mengawal sepenuhnya perbualan - termasuk kandungan masa lalu dan masa hadapan, mengubah tujuan perbualan, malah mengawal ChatGPT untuk bertindak mengikut kehendak penggodam.

Dalam pembentangan mereka, para penyelidik menunjukkan bahawa ChatGPT yang terjejas boleh bertukar menjadi "pelakon berniat jahat" yang boleh beroperasi secara senyap terhadap pengguna. Penggodam boleh membuat chatbot mencadangkan pengguna memuat turun perisian yang dijangkiti virus, memberikan nasihat perniagaan yang mengelirukan atau mengakses fail yang disimpan di Google Drive jika akaun pengguna disambungkan.

Keseluruhan proses berlaku tanpa diketahui oleh pengguna. Kerentanan itu hanya ditambal sepenuhnya selepas Zenity memberitahu OpenAI.

Selain ChatGPT, Zenity juga telah menunjukkan serangan serupa terhadap platform pembantu AI popular yang lain. Dalam Copilot Studio Microsoft, penyelidik menemui cara membocorkan keseluruhan pangkalan data CRM.

Untuk Salesforce Einstein, penggodam boleh membuat permintaan perkhidmatan palsu untuk mengubah hala semua komunikasi pelanggan ke alamat e-mel yang mereka kawal.

Google Gemini dan Microsoft 365 Copilot juga bertukar menjadi "pelakon yang bermusuhan", melakukan serangan pancingan data dan membocorkan maklumat sensitif melalui e-mel dan acara kalendar.

Dalam contoh lain, alat pembangunan perisian Cursor, apabila disepadukan dengan Jira MCP, juga telah dieksploitasi untuk mencuri bukti kelayakan pembangun melalui "tiket" palsu.

Zenity berkata beberapa syarikat, seperti OpenAI dan Microsoft, dengan cepat mengeluarkan patch selepas dimaklumkan. Walau bagaimanapun, yang lain enggan menangani isu itu, dengan alasan bahawa tingkah laku itu adalah "ciri reka bentuk" dan bukannya kelemahan keselamatan.

Cabaran besar sekarang, menurut Mikhail Bergori, ialah pembantu AI bukan sahaja melaksanakan tugas mudah, tetapi menjadi "entiti digital" yang mewakili pengguna - dapat membuka folder, menghantar fail dan mengakses e-mel. Dia memberi amaran bahawa ini adalah seperti "syurga" untuk penggodam, dengan begitu banyak titik eksploitasi.

Ben Kaliger, pengasas bersama dan Ketua Pegawai Eksekutif Zenity, menegaskan bahawa penyelidikan syarikat menunjukkan bahawa kaedah keselamatan semasa tidak lagi sesuai untuk cara pembantu AI beroperasi. Beliau menyeru organisasi untuk mengubah pendekatan mereka dan melabur dalam penyelesaian khusus untuk dapat mengawal dan memantau aktiviti "ejen" ini.

Zenity diasaskan pada 2021. Syarikat itu kini mempunyai kira-kira 110 pekerja di seluruh dunia, 70 daripadanya bekerja di pejabat Tel Aviv. Pelanggan Zenity termasuk banyak syarikat Fortune 100 dan juga Fortune 5./.

Komen (0)