Banyak cabaran untuk AI dalam era baharu.

Apabila AI menjadi lebih mudah diakses, dan lebih ramai individu dan perniagaan menggunakan AI melalui alat biasa, penggodam boleh mengautomasikan serangan, mempercepatkan proses operasi dan menggunakan kempen yang lebih canggih secara serentak untuk mencapai matlamat haram mereka.

Kaspersky mendedahkan jenis-jenis serangan siber berkuasa AI.

Berikut adalah beberapa kaedah serangan yang telah diperhatikan oleh Kaspersky: ChatGPT boleh digunakan untuk membangunkan perisian hasad dan menggunakan serangan secara automatik kepada berbilang mangsa; Program AI menyusup masuk ke data pengguna pada telefon pintar, dan melalui analisis data sensitif, penyerang boleh "mencuri" mesej, kata laluan dan kod bank sepenuhnya daripada mangsa; Algoritma perisikan kawanan membantu rangkaian komputer secara automatik (bonet) memulihkan rangkaian berniat jahat yang telah dihapuskan oleh penyelesaian keselamatan.

Kajian Kaspersky tentang penggunaan AI untuk memecahkan kata laluan menunjukkan bahawa kebanyakan kata laluan disulitkan menggunakan algoritma hashing seperti MD5 dan SHA. Oleh itu, operasi mudah boleh mengubah kata laluan menjadi baris teks yang disulitkan, tetapi membalikkan keseluruhan proses merupakan satu cabaran yang ketara.

Melalui AI, pelaku yang berniat jahat boleh mengeksploitasi kandungan palsu, termasuk teks, imej, audio dan video , untuk melancarkan serangan bukan teknikal. Model bahasa yang besar seperti ChatGPT-4o dimanfaatkan untuk mencipta senario dan mesej pancingan data yang sangat canggih. Mengatasi halangan bahasa, AI boleh menulis e-mel yang kelihatan asli berdasarkan maklumat daripada media sosial semata-mata. Ia juga boleh meniru gaya penulisan mangsa, menjadikan penipuan itu lebih sukar untuk dikesan.

Sementara itu, teknologi Deepfake telah muncul sebagai "masalah" dalam keselamatan siber, walaupun sebelum ini dianggap sebagai produk penyelidikan saintifik . Menyamar sebagai selebriti untuk keuntungan kewangan adalah kaedah yang paling biasa; tambahan pula, penipu menggunakan Deepfake untuk mencuri akaun dan membuat panggilan menyamar kepada rakan dan saudara mara mangsa untuk memeras ugut wang.

Selain mengeksploitasi teknologi AI untuk aktiviti haram, pelaku jahat juga boleh menyerang algoritma AI. Ini termasuk serangan "suntikan segera", di mana arahan berniat jahat disuntik ke dalam model bahasa yang besar, malah melanggar peraturan yang sebelum ini dihadkan; dan serangan adversarial, di mana medan maklumat tersembunyi ditambah pada imej atau audio untuk menjejaskan keupayaan pengelasan imej sistem pembelajaran mesin.

AI semakin disepadukan ke dalam setiap aspek kehidupan manusia, daripada Apple Intelligence dan Google Gemini hinggalah Microsoft Copilot. Oleh itu, menangani kelemahan AI harus menjadi keutamaan utama. Kaspersky telah menggunakan teknologi AI untuk melindungi pelanggan dan rakan kongsinya selama bertahun-tahun, sentiasa mencari kelemahan dalam sistem AI untuk meningkatkan daya tahannya dan secara aktif menyelidik teknik serangan siber untuk memberikan perlindungan yang boleh dipercayai terhadap serangan berasaskan AI.

KIM THANH

Sumber: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html