Pakar keamanan 'menipu' ChatGPT agar membuat malware.

Kecerdasan buatan (AI) seperti ChatGPT telah menjadi sensasi global sejak awal tahun 2023, tetapi tidak selalu digunakan untuk tujuan positif. Baru-baru ini, seorang pakar keamanan menemukan cara untuk menginstruksikan ChatGPT untuk menghasilkan kode berbahaya selama pengujian.

Aaron Mulgrew, seorang pakar keamanan di Forcepoint, membagikan risiko menulis kode berbahaya menggunakan chatbot dwibahasa OpenAI. Meskipun ChatGPT dirancang untuk mencegah pengguna meminta AI untuk mendesain malware, Aaron menemukan kerentanan dengan membuat perintah (prompt) agar kecerdasan buatan tersebut menulis kode baris demi baris. Ketika digabungkan, Aaron menyadari bahwa ia memiliki alat eksekusi pencurian data yang tidak terdeteksi, yang begitu canggih sehingga menyaingi bahkan malware paling canggih yang tersedia saat ini.

Setiap baris kode yang dihasilkan oleh ChatGPT, jika digabungkan, dapat menjadi malware yang canggih.

Penemuan Mulgrew menjadi peringatan tentang potensi eksploitasi AI untuk menciptakan malware berbahaya tanpa memerlukan kelompok peretas, dan tanpa para penciptanya bahkan menulis satu baris kode pun.

Malware buatan Mulgrew menyamar sebagai aplikasi desktop, tetapi dapat aktif secara otomatis pada perangkat Windows. Setelah masuk ke dalam sistem operasi, malware tersebut "menyusup" ke semua file, termasuk dokumen Word, file gambar, dan PDF, untuk mencari data yang akan dicuri.

Setelah mendapatkan informasi yang dibutuhkannya, program tersebut menguraikannya dan menyematkannya ke dalam file gambar di komputer. Untuk menghindari deteksi, gambar-gambar ini diunggah ke folder di penyimpanan cloud Google Drive. Malware ini menjadi sangat ampuh karena Mulgrew dapat menyempurnakan dan meningkatkan fitur-fiturnya untuk menghindari deteksi melalui perintah sederhana yang dimasukkan ke dalam ChatGPT.

Meskipun ini adalah hasil uji coba pribadi oleh seorang ahli keamanan dan tidak ada serangan yang dilakukan di luar area pengujian, para ahli keamanan siber tetap mengakui bahaya aktivitas yang menggunakan ChatGPT. Mulgrew menyatakan bahwa dia sendiri tidak memiliki banyak pengalaman dalam pemrograman, tetapi kecerdasan buatan OpenAI masih belum cukup kuat atau cerdas untuk menghentikan uji cobanya.

Tautan sumber: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm