Pakar keselamatan 'memperdaya' ChatGPT untuk menulis perisian hasad.

[iklan_1]

Kecerdasan buatan (AI) seperti ChatGPT telah menjadi sensasi global sejak awal tahun 2023, tetapi ia tidak selalunya digunakan untuk tujuan positif. Baru-baru ini, seorang pakar keselamatan telah menemui cara untuk mengarahkan ChatGPT menjana kod berniat jahat semasa ujian.

Aaron Mulgrew, pakar keselamatan di Forcepoint, berkongsi risiko menulis kod berniat jahat menggunakan chatbot dwibahasa OpenAI. Walaupun ChatGPT direka bentuk untuk menghalang pengguna daripada meminta AI untuk mereka bentuk perisian hasad, Aaron menemui kelemahan dengan mencipta arahan (gesaan) untuk kecerdasan buatan menulis kod baris demi baris. Apabila digabungkan, Aaron menyedari bahawa dia mempunyai alat pelaksanaan pencuri data yang tidak dapat dikesan, begitu canggih sehingga ia dapat menandingi perisian hasad paling canggih yang tersedia pada masa ini.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — Setiap baris kod individu yang dihasilkan oleh ChatGPT, apabila digabungkan, boleh menjadi perisian hasad yang canggih.

Penemuan Mulgrew berfungsi sebagai amaran tentang potensi untuk mengeksploitasi AI bagi mencipta perisian hasad berbahaya tanpa memerlukan sebarang kumpulan penggodaman, dan tanpa pencipta menulis walau sebaris kod pun sendiri.

Perisian hasad Mulgrew menyamar sebagai aplikasi desktop, tetapi ia boleh diaktifkan secara automatik pada peranti Windows. Sebaik sahaja berada di dalam sistem pengendalian, perisian hasad tersebut "menyusup" semua fail, termasuk dokumen Word, fail imej dan PDF, untuk mencari data bagi dicuri.

Sebaik sahaja ia memperoleh maklumat yang diperlukan, program tersebut akan memecahkannya dan membenamkannya ke dalam fail imej pada komputer. Untuk mengelakkan pengesanan, imej-imej ini dimuat naik ke folder pada storan awan Google Drive. Perisian hasad ini menjadi sangat berkuasa kerana Mulgrew boleh memperhalusi dan meningkatkan ciri-cirinya untuk mengelakkan pengesanan melalui arahan mudah yang dimasukkan ke dalam ChatGPT.

Walaupun ini adalah hasil ujian persendirian oleh pakar keselamatan dan tiada serangan yang dilaksanakan di luar kawasan ujian, pakar keselamatan siber masih menyedari bahaya aktiviti menggunakan ChatGPT. Mulgrew menyatakan bahawa beliau sendiri tidak mempunyai banyak pengalaman dalam pengaturcaraan, tetapi kecerdasan buatan OpenAI masih belum cukup berkuasa atau pintar untuk menghentikan ujiannya.

[iklan_2]
Pautan sumber