Kerentanan 'Zero Click' bahkan memungkinkan peretas mengendalikan ChatGPT untuk bertindak sesuai keinginan mereka - Foto ilustrasi: AFP
Perusahaan keamanan siber Israel Zenity baru saja mengungkap kerentanan “Zero Click” pertama yang ditemukan di layanan ChatGPT OpenAI.
Jenis serangan ini tidak mengharuskan pengguna melakukan tindakan apa pun seperti mengklik tautan, membuka berkas, atau terlibat dalam interaksi yang disengaja, tetapi tetap dapat memperoleh akses ke akun dan membocorkan data sensitif.
Mikhail Bergori, salah satu pendiri dan CTO Zenity, menunjukkan secara langsung bagaimana seorang peretas yang hanya memiliki alamat email pengguna dapat mengambil alih kendali penuh atas percakapan - termasuk konten yang lalu dan yang akan datang, mengubah tujuan percakapan, dan bahkan memanipulasi ChatGPT untuk bertindak sesuai keinginan peretas.
Dalam presentasi mereka, para peneliti menunjukkan bahwa ChatGPT yang telah disusupi dapat diubah menjadi "aktor jahat" yang beroperasi secara diam-diam terhadap pengguna. Peretas dapat membuat ChatGPT menyarankan pengguna untuk mengunduh perangkat lunak yang terinfeksi virus, memberikan saran bisnis yang menyesatkan, atau mengakses file yang tersimpan di Google Drive jika akun pengguna terhubung. Semua ini terjadi tanpa sepengetahuan pengguna.
Kerentanan tersebut baru sepenuhnya ditambal setelah Zenity memberitahu OpenAI.
Selain ChatGPT, Zenity juga telah mendemonstrasikan serangan serupa terhadap platform asisten AI populer lainnya. Di Copilot Studio milik Microsoft, para peneliti menemukan cara untuk membocorkan seluruh basis data CRM.
Untuk Salesforce Einstein, peretas dapat membuat permintaan layanan palsu untuk mengalihkan semua komunikasi pelanggan ke alamat email yang mereka kendalikan.
Google Gemini dan Microsoft 365 Copilot juga diubah menjadi "aktor jahat", yang melakukan serangan phishing dan membocorkan informasi sensitif melalui email dan acara kalender.
Dalam contoh lain, alat pengembangan perangkat lunak Cursor ketika diintegrasikan dengan Jira MCP juga dimanfaatkan untuk mencuri kredensial pengembang melalui "tiket" palsu.
Zenity mengatakan beberapa perusahaan, seperti OpenAI dan Microsoft, segera merilis patch setelah menerima peringatan. Namun, beberapa perusahaan lain menolak untuk mengatasi masalah tersebut, dengan alasan bahwa perilaku tersebut merupakan "fitur desain" dan bukan kerentanan keamanan.
Tantangan besarnya saat ini, menurut Mikhail Bergori, adalah asisten AI tidak hanya melakukan tugas-tugas sederhana, tetapi menjadi "entitas digital" yang merepresentasikan pengguna – mampu membuka folder, mengirim berkas, dan mengakses email. Ia memperingatkan bahwa ini seperti "surga" bagi para peretas, dengan begitu banyak titik eksploitasi.
Ben Kaliger, salah satu pendiri dan CEO Zenity, menekankan bahwa riset perusahaan menunjukkan bahwa metode keamanan saat ini tidak lagi sesuai dengan cara kerja asisten AI. Ia mendesak berbagai organisasi untuk mengubah pendekatan mereka dan berinvestasi dalam solusi khusus agar dapat mengendalikan dan memantau aktivitas "agen" ini.
Zenity didirikan pada tahun 2021. Saat ini, perusahaan ini memiliki sekitar 110 karyawan di seluruh dunia, 70 di antaranya bekerja di kantornya di Tel Aviv. Klien Zenity mencakup banyak perusahaan Fortune 100 dan bahkan Fortune 5.
Source: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm
Komentar (0)