Pakar keamanan 'menipu' ChatGPT agar menulis kode berbahaya

[iklan_1]

Kecerdasan buatan (AI) seperti ChatGPT telah menjadi sensasi global sejak awal 2023, tetapi AI ini tidak selalu digunakan untuk tujuan positif. Baru-baru ini, seorang pakar keamanan menemukan cara untuk meminta ChatGPT membuat kode berbahaya selama pengujian.

Aaron Mulgrew, pakar keamanan di Forcepoint, berbagi risiko menulis malware menggunakan chatbot bahasa yang dikembangkan oleh OpenAI. Meskipun ChatGPT dirancang untuk mencegah pengguna meminta AI merancang malware, Aaron tetap menemukan kerentanan dengan menciptakan baris perintah (prompt) bagi kecerdasan buatan untuk menulis kode pemrograman pada setiap baris terpisah. Ketika digabungkan, Aaron menyadari bahwa ia memiliki alat eksekusi pencurian data yang tak terdeteksi, begitu canggih sehingga sebanding dengan malware utama saat ini.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — Setiap baris perintah individual yang dihasilkan oleh ChatGPT, jika digabungkan, dapat menjadi malware yang canggih.

Penemuan Mulgrew merupakan peringatan tentang potensi AI yang dapat digunakan untuk membuat malware berbahaya tanpa memerlukan kelompok peretas atau bahkan pembuat alat yang menulis satu baris kode pun.

Perangkat lunak Mulgrew disamarkan sebagai aplikasi penghemat layar, tetapi mampu aktif secara otomatis di perangkat berbasis Windows. Setelah berada di sistem operasi, malware tersebut "menyelinap" ke setiap berkas, termasuk editor dokumen Word, berkas gambar, dan PDF, mencari data untuk dicuri.

Setelah mendapatkan apa yang dibutuhkan, program tersebut menguraikan informasi dan melampirkannya ke berkas gambar di komputer. Untuk menghindari deteksi, gambar-gambar tersebut diunggah ke folder di penyimpanan cloud Google Drive. Malware ini sangat kuat karena Mulgrew dapat mengubah dan meningkatkan fitur-fiturnya untuk menghindari deteksi melalui perintah sederhana yang dimasukkan ke dalam ChatGPT.

Meskipun ini merupakan uji coba privat oleh para pakar keamanan dan tidak ada serangan yang dilakukan di luar area pengujian, komunitas keamanan siber tetap menyadari bahaya aktivitas yang menggunakan ChatGPT. Mulgrew mengaku tidak memiliki banyak pengalaman dalam pemrograman, tetapi kecerdasan buatan OpenAI masih belum cukup kuat dan cerdas untuk mencegah pengujiannya.

[iklan_2]
Tautan sumber