Pakar keamanan 'menipu' ChatGPT agar menulis kode berbahaya

[iklan_1]

Kecerdasan buatan (AI) seperti ChatGPT telah menjadi sensasi global sejak awal 2023, tetapi AI ini tidak selalu digunakan untuk tujuan positif. Baru-baru ini, seorang pakar keamanan menemukan cara untuk meminta ChatGPT membuat kode berbahaya selama pengujian.

Aaron Mulgrew, pakar keamanan di Forcepoint, berbagi risiko menulis malware menggunakan chatbot bahasa OpenAI. Meskipun ChatGPT dirancang untuk mencegah pengguna meminta AI merancang malware, Aaron tetap menemukan celah dengan membuat perintah bagi AI untuk menulis kode pemrograman baris demi baris. Ketika digabungkan, Aaron menyadari bahwa ia memiliki alat eksekusi pencurian data yang tak terdeteksi, begitu canggihnya sehingga sebanding dengan malware tercanggih saat ini.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — Setiap baris perintah individual yang dihasilkan oleh ChatGPT, jika digabungkan, dapat menjadi malware yang canggih.

Penemuan Mulgrew merupakan peringatan tentang potensi AI yang dapat digunakan untuk menciptakan malware berbahaya tanpa memerlukan kelompok peretas, atau bahkan pembuat alat tersebut menulis satu baris kode pun.

Perangkat lunak Mulgrew disamarkan sebagai aplikasi penghemat layar, tetapi mampu aktif secara otomatis di perangkat berbasis Windows. Setelah masuk ke sistem operasi, malware tersebut "menyusup" ke setiap berkas, termasuk editor teks Word, berkas gambar, dan PDF, mencari data untuk dicuri.

Setelah mendapatkan apa yang dibutuhkan, program tersebut menguraikan informasi dan melampirkannya ke berkas gambar di komputer. Untuk menghindari deteksi, gambar-gambar tersebut diunggah ke folder di Google Drive. Malware ini sangat kuat karena Mulgrew dapat mengubah dan meningkatkan fitur-fiturnya untuk menghindari deteksi melalui perintah sederhana yang dimasukkan ke dalam ChatGPT.

Meskipun ini merupakan uji coba privat oleh para pakar keamanan dan tidak ada serangan yang dilakukan di luar lingkup pengujian, komunitas keamanan siber tetap menyadari bahaya aktivitas yang menggunakan ChatGPT. Mulgrew mengaku tidak memiliki banyak pengalaman dalam pemrograman, tetapi kecerdasan buatan OpenAI masih belum cukup kuat dan cerdas untuk mencegah pengujiannya.

[iklan_2]
Tautan sumber