Israel: Peringatan bahwa asisten AI dapat menjadi agen jahat untuk menyerang pengguna

Perusahaan keamanan siber Israel, Zenity, baru saja mengungkap kerentanan "Zero Click" pertama yang pernah ditemukan di layanan ChatGPT milik OpenAI. Jenis serangan ini tidak memerlukan tindakan apa pun dari pengguna, seperti mengklik tautan, membuka file, atau berinteraksi secara sengaja, tetapi tetap dapat memperoleh akses akun dan membocorkan data sensitif.

Menurut seorang reporter VNA di Tel Aviv, Bapak Mikhail Bergori, salah satu pendiri dan CTO Zenity, menjelaskan secara langsung bagaimana seorang peretas hanya membutuhkan alamat email pengguna untuk sepenuhnya mengendalikan percakapan - termasuk konten masa lalu dan masa depan, mengubah tujuan percakapan, dan bahkan mengendalikan ChatGPT untuk bertindak sesuai keinginan peretas.

Dalam presentasi mereka, para peneliti menunjukkan bahwa ChatGPT yang diretas dapat diubah menjadi "aktor jahat" yang dapat beroperasi secara diam-diam terhadap pengguna. Peretas dapat membuat chatbot menyarankan pengguna untuk mengunduh perangkat lunak yang terinfeksi virus, memberikan saran bisnis yang menyesatkan, atau mengakses file yang tersimpan di Google Drive jika akun pengguna terhubung.

Seluruh proses terjadi tanpa sepengetahuan pengguna. Kerentanan tersebut baru sepenuhnya ditambal setelah Zenity memberi tahu OpenAI.

Selain ChatGPT, Zenity juga mensimulasikan beberapa serangan serupa yang menargetkan platform asisten AI populer lainnya. Di Copilot Studio milik Microsoft, para peneliti menemukan bagaimana seluruh basis data CRM dapat bocor.

Dalam kasus Salesforce Einstein, peretas dapat membuat permintaan layanan palsu untuk mengalihkan semua komunikasi pelanggan ke alamat email yang berada di bawah kendali mereka.

Google Gemini dan Microsoft 365 Copilot juga dimanfaatkan sebagai "aktor jahat," melakukan serangan phishing dan membocorkan informasi sensitif melalui email dan acara kalender.

Dalam contoh lain, alat pengembangan perangkat lunak Cursor, ketika diintegrasikan dengan Jira MCP, juga dieksploitasi untuk mencuri kredensial pengembang melalui "tiket" palsu.

Zenity mengatakan beberapa perusahaan, seperti OpenAI dan Microsoft, dengan cepat merilis patch setelah diberi tahu. Namun, yang lain menolak untuk mengatasi masalah tersebut, dengan alasan bahwa perilaku tersebut adalah "fitur desain" dan bukan kerentanan keamanan.

Menurut Mikhail Bergori, tantangan besar saat ini adalah bahwa asisten AI tidak hanya melakukan tugas-tugas sederhana, tetapi juga menjadi "entitas digital" yang mewakili pengguna – mampu membuka folder, mengirim file, dan mengakses email. Ia memperingatkan bahwa ini seperti "surga" bagi peretas, dengan begitu banyak titik eksploitasi.

Ben Kaliger, salah satu pendiri dan CEO Zenity, menekankan bahwa riset perusahaan menunjukkan bahwa metode keamanan saat ini tidak lagi sesuai dengan cara kerja asisten AI. Ia menyerukan kepada organisasi untuk mengubah pendekatan mereka dan berinvestasi dalam solusi khusus agar dapat mengontrol dan memantau aktivitas "agen" ini.

Zenity didirikan pada tahun 2021. Saat ini, perusahaan memiliki sekitar 110 karyawan di seluruh dunia, dengan 70 karyawan bekerja di kantornya di Tel Aviv. Klien Zenity meliputi banyak perusahaan Fortune 100, dan bahkan perusahaan Fortune 5.

(VNA/Vietnam+)

Sumber: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp