Peretas menggunakan AI untuk menyerang Gemini milik Google

Menurut BGR , sebuah laporan penelitian baru saja menerbitkan teknik yang mengkhawatirkan yang disebut 'Fun-Tuning', yang menggunakan AI (kecerdasan buatan) itu sendiri untuk secara otomatis membuat serangan injeksi cepat yang sangat efektif yang menargetkan model AI canggih lainnya, termasuk Gemini milik Google.

Metode ini membuat 'peretasan' AI lebih cepat, lebih murah, dan lebih mudah dari sebelumnya, menandai eskalasi baru dalam perang keamanan siber terkait AI.

Bahayanya ketika orang jahat menggunakan AI untuk menghancurkan AI

Injeksi cepat adalah teknik di mana penyerang menyelundupkan instruksi berbahaya ke dalam data masukan model AI (misalnya, melalui komentar di kode sumber, teks tersembunyi di web). Tujuannya adalah untuk 'menipu' AI, memaksanya untuk melewati aturan keamanan yang telah diprogram sebelumnya, yang mengakibatkan konsekuensi serius seperti kebocoran data sensitif, memberikan informasi palsu, atau melakukan perilaku berbahaya lainnya.

Peretas menggunakan AI untuk menyerang AI

FOTO: TANGKAPAN LAYAR LINKEDIN

Sebelumnya, keberhasilan melakukan serangan ini, terutama pada model 'tertutup' seperti Gemini atau GPT-4, sering kali memerlukan banyak pengujian manual yang rumit dan memakan waktu.

Namun, Fun-Tuning telah mengubah permainan sepenuhnya. Metode yang dikembangkan oleh tim peneliti dari berbagai universitas ini secara cerdik memanfaatkan antarmuka pemrograman aplikasi (API) yang disediakan Google secara gratis bagi pengguna Gemini.

Dengan menganalisis reaksi halus model Gemini selama penyetelan (misalnya, bagaimana ia merespons kesalahan data), Fun-Tuning dapat secara otomatis menentukan 'awalan' dan 'akhiran' yang paling efektif untuk menutupi perintah berbahaya. Hal ini secara signifikan meningkatkan kemungkinan AI akan mematuhi niat jahat penyerang.

Hasil pengujian menunjukkan bahwa Fun-Tuning mencapai tingkat keberhasilan hingga 82% pada beberapa versi Gemini, angka yang melampaui kurang dari 30% metode serangan tradisional.

Yang membuat Fun-Tuning semakin berbahaya adalah biayanya yang rendah. Karena API tuning Google tersedia gratis, biaya komputasi untuk membuat serangan yang efektif bisa serendah $10. Lebih lanjut, para peneliti menemukan bahwa serangan yang dirancang untuk satu versi Gemini dapat dengan mudah berhasil diterapkan ke versi lain, sehingga membuka kemungkinan serangan yang meluas.

Google telah mengonfirmasi bahwa mereka menyadari ancaman yang ditimbulkan oleh Fun-Tuning, tetapi belum berkomentar apakah hal itu akan mengubah cara kerja API penyetelan. Tim juga menunjukkan dilema defensif: menghapus informasi yang dieksploitasi Fun-Tuning dari proses penyetelan akan membuat API tersebut kurang bermanfaat bagi pengembang yang sah. Sebaliknya, membiarkannya apa adanya akan terus menjadi batu loncatan bagi pelaku kejahatan untuk mengeksploitasinya.

Munculnya Fun-Tuning merupakan peringatan yang jelas bahwa konfrontasi di dunia maya telah memasuki fase baru yang lebih kompleks. AI kini tak hanya menjadi target, tetapi juga alat dan senjata di tangan para pelaku kejahatan.

Sumber: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm