Firma keselamatan siber Israel, Zenity baru sahaja mendedahkan kelemahan "Zero Click" pertama yang pernah ditemui dalam perkhidmatan ChatGPT OpenAI. Serangan jenis ini tidak memerlukan pengguna melakukan sebarang tindakan seperti mengklik pautan, membuka fail atau berinteraksi secara sengaja, tetapi masih boleh mendapatkan akses akaun dan membocorkan data sensitif.
Menurut wartawan VNA di Tel Aviv, Mikhail Bergori, pengasas bersama dan CTO Zenity, secara langsung menjelaskan bagaimana penggodam, hanya dengan mempunyai alamat e-mel pengguna, boleh mengawal sepenuhnya perbualan – termasuk kandungan lalu dan akan datang, mengubah tujuan perbualan, malah memanipulasi ChatGPT untuk bertindak mengikut kehendak penggodam.
Dalam pembentangan mereka, para penyelidik menunjukkan bahawa ChatGPT yang dikompromi boleh bertukar menjadi "ejen berniat jahat" yang beroperasi secara senyap terhadap pengguna. Penggodam boleh menyebabkan chatbot mencadangkan pengguna memuat turun perisian yang dijangkiti virus, menawarkan nasihat perniagaan yang mengelirukan atau mengakses fail yang disimpan di Google Drive jika akaun pengguna disambungkan.
Keseluruhan proses itu berlaku tanpa pengetahuan pengguna. Kerentanan itu hanya ditambal sepenuhnya selepas Zenity memaklumkan OpenAI.
Selain ChatGPT, Zenity juga mensimulasikan beberapa serangan serupa yang menyasarkan platform pembantu AI popular yang lain. Di Copilot Studio Microsoft, para penyelidik mendapati bagaimana keseluruhan pangkalan data CRM boleh dibocorkan.
Dalam kes Salesforce Einstein, penggodam boleh mencipta permintaan perkhidmatan palsu untuk mengalihkan semua komunikasi pelanggan ke alamat e-mel di bawah kawalan mereka.
Google Gemini dan Microsoft 365 Copilot juga telah diubah menjadi "ejen musuh", menjalankan skim pancingan data dan membocorkan maklumat sensitif melalui e-mel dan acara kalendar.
Dalam contoh lain, alat pembangunan perisian Cursor, apabila disepadukan dengan Jira MCP, juga telah dieksploitasi untuk mencuri kelayakan log masuk pengaturcara melalui "tiket" palsu.
Zenity berkata bahawa sesetengah syarikat, seperti OpenAI dan Microsoft, dengan cepat mengeluarkan tampalan selepas dimaklumkan. Walau bagaimanapun, terdapat juga syarikat yang enggan menangani isu tersebut, mendakwa bahawa tingkah laku yang ditemui itu adalah "ciri reka bentuk" dan bukannya kelemahan keselamatan.
Menurut Mikhail Bergori, cabaran utama hari ini ialah pembantu AI bukan sahaja melaksanakan tugas mudah, tetapi menjadi "entiti digital" yang mewakili pengguna – yang mampu membuka folder, menghantar fail dan mengakses e-mel. Beliau memberi amaran bahawa ini seperti "syurga" bagi penggodam, dengan begitu banyak kelemahan yang boleh dieksploitasi.
Ben Kaliger, pengasas bersama dan Ketua Pegawai Eksekutif Zenity, menekankan bahawa kajian syarikat menunjukkan bahawa kaedah keselamatan semasa tidak lagi mencukupi untuk cara pembantu AI beroperasi. Beliau menggesa organisasi untuk mengubah pendekatan mereka, melabur dalam penyelesaian khusus untuk mengawal dan memantau aktiviti "ejen" ini.
Zenity ditubuhkan pada tahun 2021. Pada masa ini, syarikat ini mempunyai kira-kira 110 pekerja di seluruh dunia, dengan 70 orang bekerja di pejabatnya di Tel Aviv. Pelanggan Zenity termasuk banyak syarikat Fortune 100, dan juga syarikat Fortune 5.
Sumber: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
Komen (0)