Kaspersky memberi amaran tentang penjenayah siber yang menggunakan AI Gelap untuk menyerang

Pada 15 Ogos, firma keselamatan Kaspersky mengeluarkan amaran bahawa serangan siber menjadi lebih canggih dan sukar untuk dikesan disebabkan oleh kebangkitan Dark AI (menggunakan AI untuk tujuan jahat, melanggar undang-undang...) di rantau Asia Pasifik (APAC).

Wakil daripada firma keselamatan Kaspersky telah memberikan maklumat tentang penjenayah siber yang menggunakan Dark AI dalam serangan mereka.

AI Gelap beroperasi di luar piawaian keselamatan, selalunya membolehkan tingkah laku seperti penipuan, manipulasi, serangan siber atau eksploitasi data tanpa pengawasan yang rapi.

“Pelaku berniat jahat juga mengeksploitasi AI untuk meningkatkan keupayaan serangan mereka. Penyalahgunaan AI yang paling biasa hari ini ialah kemunculan model Black Hat GPT. Ini adalah model AI yang dibangunkan atau diubah suai khusus untuk tujuan haram seperti mencipta perisian hasad, mendraf e-mel pancingan data, menjana video suara dan deepfake…,” kongsi Sergey Lozhkin, Ketua Pasukan Penyelidikan dan Analisis Global (GReAT) untuk Timur Tengah, Turki, Afrika dan Asia Pasifik di Kaspersky.

GPT Black Hat boleh wujud sebagai model AI persendirian sepenuhnya atau separa persendirian. Beberapa contoh penting termasuk WormGPT, DarkBard, FraudGPT dan Xanthorox, semuanya direka untuk menangani jenayah siber, penipuan dan aktiviti automasi berniat jahat.

Lozhkin mendedahkan bahawa pakar Kaspersky kini memerhatikan trend yang lebih membimbangkan: kumpulan serangan siber yang disokong oleh negeri atau kerajaan mula memanfaatkan model bahasa besar (LLM) dalam kempen serangan mereka.

“OpenAI baru-baru ini mengumumkan bahawa ia telah menggagalkan lebih daripada 20 kempen pengaruh rahsia dan serangan siber yang mengeksploitasi alatan AInya. Kita perlu menghadapi penyerang yang semakin canggih yang menjadikan AI sebagai senjata, lalu menjadi ancaman dalam ekosistem awam dan swasta. Ini merupakan trend yang membimbangkan yang perlu dipersiapkan oleh semua organisasi,” kongsi Lozhkin.

Menurut laporan OpenAI, pelaku jahat telah mula mengeksploitasi keupayaan model pembelajaran mesin (LLM) berskala besar untuk memperdaya mangsa dan memintas lapisan keselamatan konvensional. Mereka boleh mencipta mesej palsu yang meyakinkan, menghantar mesej besar-besaran kepada mangsa dan menghasilkan kandungan dalam pelbagai bahasa.

Bagi meningkatkan pertahanan terhadap ancaman Dark AI, pakar Kaspersky mengesyorkan: Menggunakan penyelesaian keselamatan generasi akan datang seperti Kaspersky Next untuk mengesan malware yang dihasilkan AI dan mengawal risiko rantaian bekalan; menggunakan alat risikan ancaman masa nyata untuk memantau eksploitasi kerentanan yang didorong oleh AI; memperkukuh kawalan akses dan latihan kakitangan untuk mengehadkan risiko Shadow AI dan kebocoran data; dan mewujudkan Pusat Operasi Keselamatan (SOC) untuk memantau ancaman dan bertindak balas dengan cepat terhadap insiden.

BA TAN

Sumber: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html