Kerentanan serius dalam ChatGPT dan beberapa pembantu AI: Pengguna ditipu dan maklumat mereka dibocorkan...

ChatGPT - Ảnh 1. — Kerentanan 'Zero Click' juga membolehkan penggodam mengawal ChatGPT untuk bertindak sesuka hati - Ilustrasi: AFP

Syarikat keselamatan siber Israel, Zenity baru sahaja mendedahkan kelemahan "Zero Click" pertama yang ditemui dalam perkhidmatan ChatGPT OpenAI.

Serangan jenis ini tidak memerlukan pengguna melakukan sebarang tindakan seperti mengklik pautan, membuka fail atau membuat sebarang interaksi yang disengajakan, namun ia masih boleh mendapat akses kepada akaun dan membocorkan data sensitif.

Mikhail Bergori, pengasas bersama dan CTO Zenity, secara langsung menjelaskan bagaimana penggodam, hanya dengan mempunyai alamat e-mel pengguna, boleh mengawal sepenuhnya perbualan – termasuk kandungan lalu dan akan datang, mengubah tujuan perbualan, malah memanipulasi ChatGPT untuk bertindak mengikut kehendak penggodam.

Dalam pembentangan mereka, para penyelidik menunjukkan bahawa ChatGPT yang dikompromi boleh menjadi "ejen berniat jahat" yang beroperasi secara senyap terhadap pengguna. Penggodam boleh menyebabkan ChatGPT mencadangkan pengguna memuat turun perisian yang dijangkiti virus, menawarkan nasihat perniagaan yang mengelirukan atau mengakses fail yang disimpan di Google Drive jika akaun pengguna disambungkan. Semua ini berlaku tanpa pengetahuan pengguna.

Kerentanan itu hanya ditambal sepenuhnya selepas Zenity memaklumkan OpenAI.

Selain ChatGPT, Zenity juga mensimulasikan beberapa serangan serupa yang menyasarkan platform pembantu AI popular yang lain. Di Copilot Studio Microsoft, para penyelidik mendapati bagaimana keseluruhan pangkalan data CRM boleh dibocorkan.

Dalam kes Salesforce Einstein, penggodam boleh mencipta permintaan perkhidmatan palsu untuk mengalihkan semua komunikasi pelanggan ke alamat e-mel di bawah kawalan mereka.

Google Gemini dan Microsoft 365 Copilot juga telah diubah menjadi "ejen musuh", yang menjalankan penipuan pancingan data dan membocorkan maklumat sensitif melalui e-mel dan acara kalendar.

Dalam contoh lain, alat pembangunan perisian Cursor, apabila disepadukan dengan Jira MCP, juga telah dieksploitasi untuk mencuri kelayakan log masuk pengaturcara melalui "tiket" palsu.

Zenity berkata bahawa sesetengah syarikat, seperti OpenAI dan Microsoft, dengan cepat mengeluarkan tampalan selepas dimaklumkan. Walau bagaimanapun, sesetengah syarikat enggan menangani isu tersebut, mendakwa bahawa tingkah laku yang ditemui itu adalah "ciri reka bentuk" dan bukannya kelemahan keselamatan.

Menurut Mikhail Bergori, cabaran utama hari ini ialah pembantu AI bukan sahaja melaksanakan tugas mudah, tetapi menjadi "entiti digital" yang mewakili pengguna – yang mampu membuka folder, menghantar fail dan mengakses e-mel. Beliau memberi amaran bahawa ini seperti "syurga" bagi penggodam, kerana terdapat terlalu banyak kelemahan.

Ben Kaliger, pengasas bersama dan Ketua Pegawai Eksekutif Zenity, menekankan bahawa kajian syarikat menunjukkan bahawa kaedah keselamatan semasa tidak lagi mencukupi untuk cara pembantu AI beroperasi. Beliau menggesa organisasi untuk mengubah pendekatan mereka, melabur dalam penyelesaian khusus untuk mengawal dan memantau aktiviti "ejen" ini.

Zenity ditubuhkan pada tahun 2021. Pada masa ini, syarikat ini mempunyai kira-kira 110 pekerja di seluruh dunia, dengan 70 orang bekerja di pejabatnya di Tel Aviv. Pelanggan Zenity termasuk banyak syarikat Fortune 100, dan juga syarikat Fortune 5.

Komen (0)