Banyak cabaran AI dalam era baharu

Apabila AI menjadi lebih mudah diakses, dengan semakin ramai individu dan perniagaan menggunakan AI melalui alatan biasa... penggodam juga boleh mengautomasikan serangan, mempercepatkan operasi dan menggunakan kempen yang lebih kompleks untuk mencapai matlamat haram mereka.

Kaspersky mendedahkan jenis serangan siber menggunakan AI

Berikut ialah jenis serangan yang telah diperhatikan oleh Kaspersky: ChatGPT boleh digunakan untuk membangunkan perisian hasad dan menggunakan serangan secara automatik kepada berbilang mangsa; Program AI menyusup data pengguna pada telefon pintar dan, melalui proses menganalisis data sensitif, boleh "membaca" sepenuhnya mesej, kata laluan dan kod perbankan mangsa; Algoritma perisikan kawanan membantu rangkaian komputer automatik (tulang) memulihkan rangkaian berniat jahat yang telah dihapuskan oleh penyelesaian keselamatan.

Penyelidikan Kaspersky tentang menggunakan AI untuk memecahkan kata laluan menunjukkan bahawa kebanyakan kata laluan disulitkan menggunakan algoritma pencincangan seperti MD5 dan SHA. Operasi mudah boleh menukar kata laluan menjadi aliran teks sifir, tetapi membalikkan proses itu adalah satu cabaran besar.

Melalui AI, pelaku jahat boleh mengeksploitasi kandungan penipuan, termasuk teks, imej, audio dan video , untuk melancarkan serangan kejuruteraan sosial. Model bahasa yang besar seperti ChatGPT-4o digunakan untuk mencipta skrip dan mesej pancingan data yang sangat canggih. Mengatasi halangan bahasa, AI boleh menulis e-mel yang tulen, hanya berdasarkan maklumat di rangkaian sosial. AI juga boleh meniru gaya penulisan mangsa. Ini menjadikan tingkah laku pancingan data lebih sukar untuk dikesan.

Pada masa yang sama, Deepfake wujud sebagai "masalah" dalam keselamatan siber, walaupun ia sebelum ini dianggap sebagai produk penyelidikan saintifik . Menyamar sebagai selebriti untuk keuntungan kewangan adalah kaedah yang paling biasa, seterusnya, penipu juga menggunakan Deepfake untuk mencuri akaun, membuat panggilan palsu kepada rakan dan saudara mangsa kepada harta yang sesuai.

Selain mengeksploitasi teknologi AI untuk aktiviti haram, orang jahat juga boleh menyerang algoritma AI. Seperti serangan "Suntikan Segera" dengan memasukkan arahan berniat jahat ke dalam model bahasa yang besar, malah melanggar peraturan yang telah dihadkan sebelum ini; Serangan musuh dengan menambahkan medan maklumat tersembunyi pada imej atau audio, untuk menjejaskan keupayaan pengelasan imej sistem pembelajaran mesin.

AI disepadukan secara beransur-ansur ke dalam setiap aspek kehidupan manusia, daripada Apple Intelligence, Google Gemini hingga Microsoft Copilot. Oleh itu, menangani kelemahan AI harus menjadi keutamaan. Kaspersky telah menggunakan teknologi AI untuk melindungi pelanggan dan rakan kongsi selama bertahun-tahun, terus mencari kelemahan dalam sistem AI, meningkatkan daya tahan sistem dan secara aktif menyelidik teknik serangan siber untuk memberikan perlindungan yang boleh dipercayai terhadap serangan AI.

KIM THANH

Sumber: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html