Google menimbulkan kontroversi karena menolak menambal celah keamanan Gemini

VHO - Kesalahan pada alat Gemini AI membuat pengguna berisiko mengalami kebocoran informasi sensitif, tetapi Google mengatakan ini bukan kesalahan keamanan dan tidak punya rencana untuk memperbaikinya.

Google menghadapi kritik setelah menolak memperbaiki kerentanan serius di Gemini, sebuah alat kecerdasan buatan (AI) yang terintegrasi secara mendalam ke dalam ekosistem Google Workspace. Menurut para pakar keamanan, bug tersebut dapat menyebabkan informasi sensitif pengguna bocor ke pihak tak dikenal melalui serangan yang disebut "penyelundupan ASCII".

Sumber gambar: Android Authority.

Gemini rentan terhadap kode tersembunyi dalam teks

Peneliti keamanan Viktor Markopoulos menguji ketahanan beberapa model bahasa besar (LLM) populer terhadap serangan ini. Hasilnya menunjukkan bahwa Gemini, DeepSeek, dan Grok semuanya rentan, sementara ChatGPT, Claude, dan Copilot lebih terlindungi.

Penyelundupan ASCII adalah bentuk serangan di mana penyerang menyembunyikan prompt atau kode perintah dalam teks, seringkali dalam ukuran yang sangat kecil atau dikodekan secara khusus. Ketika pengguna meminta AI untuk meringkas atau menganalisis konten yang berisi kode tersembunyi ini, alat AI tersebut akan secara tidak sengaja membaca dan mengeksekusi prompt berbahaya tersebut tanpa sepengetahuan pengguna.

Risiko kebocoran data sensitif di Google Workspace

Karena Gemini terintegrasi langsung ke layanan Gmail, Docs, dan Google Workspace, risiko ini menjadi sangat mengkhawatirkan: Perintah tersembunyi dapat menyebabkan AI secara otomatis mencari informasi pribadi, data kontak, atau dokumen rahasia, lalu mengirimkannya keluar sistem tanpa sepengetahuan pengguna.

Markopoulos menghubungi Google untuk mempresentasikan temuannya, bahkan mengilustrasikannya dengan potongan kode tak terlihat yang mendorong Gemini untuk membagikan tautan ke situs web berbahaya hanya untuk “menebus ponsel diskon”.

Google membantah ini adalah kelemahan keamanan

Dalam tanggapan yang dipublikasikan, Google menyatakan bahwa ini bukanlah kerentanan keamanan, melainkan bentuk serangan rekayasa sosial. Dengan kata lain, perusahaan menganggap ini sebagai bug yang disebabkan oleh interaksi pengguna yang ceroboh, bukan masalah pada sistem AI-nya.

Tanggapan ini menunjukkan bahwa Google tidak punya rencana untuk merilis patch untuk Gemini dalam waktu dekat, yang berarti pengguna harus lebih berhati-hati saat menggunakan AI untuk memproses dokumen, terutama yang berisi informasi sensitif atau berasal dari sumber yang tidak terverifikasi.

Meningkatnya kekhawatiran tentang keamanan AI yang terintegrasi secara mendalam

Insiden ini menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi seiring AI semakin terintegrasi ke dalam platform kerja dan komunikasi. Meskipun Google telah menekankan komitmennya terhadap "keselamatan pengguna", keputusan ini dapat memengaruhi kepercayaan terhadap keamanan Gemini – terutama di lingkungan perusahaan.

Menurut Android Authority

Sumber: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html