Banyak tantangan AI di era baru

Seiring dengan semakin mudahnya mengakses AI, dengan semakin banyaknya individu dan bisnis yang menggunakan AI melalui berbagai alat umum… para peretas juga dapat mengotomatiskan serangan, mempercepat operasi, dan menyebarkan kampanye yang lebih kompleks untuk mencapai tujuan ilegal mereka.

Kaspersky mengungkap jenis serangan siber menggunakan AI

Berikut jenis-jenis serangan yang diamati Kaspersky: ChatGPT dapat digunakan untuk mengembangkan malware dan secara otomatis melancarkan serangan ke banyak korban; program AI menyusup ke data pengguna di ponsel pintar dan, melalui proses analisis data sensitif, dapat sepenuhnya "membaca" pesan, kata sandi, dan kode perbankan korban; Algoritma kecerdasan swarm membantu jaringan komputer otomatis (bonet) memulihkan jaringan berbahaya yang telah dihilangkan oleh solusi keamanan.

Riset Kaspersky tentang penggunaan AI untuk memecahkan kata sandi menunjukkan bahwa sebagian besar kata sandi dienkripsi menggunakan algoritma hashing seperti MD5 dan SHA. Dengan demikian, operasi sederhana dapat mengubah kata sandi menjadi aliran teks terenkripsi, tetapi membalikkan seluruh proses merupakan tantangan besar.

Melalui AI, pelaku kejahatan dapat mengeksploitasi konten palsu, termasuk teks, gambar, audio, dan video , untuk melancarkan serangan rekayasa sosial. Model bahasa yang luas seperti ChatGPT-4o digunakan untuk membuat skrip dan pesan phishing yang sangat canggih. Dengan mengatasi kendala bahasa, AI dapat menulis email asli berdasarkan informasi di jejaring sosial. AI bahkan dapat meniru gaya penulisan korban. Hal ini membuat perilaku phishing semakin sulit dideteksi.

Di saat yang sama, Deepfake muncul sebagai "masalah" dalam keamanan siber, meskipun sebelumnya dianggap sebagai hasil penelitian ilmiah . Meniru selebritas untuk keuntungan finansial adalah metode yang paling umum. Selain itu, penipu juga menggunakan Deepfake untuk mencuri akun, melakukan panggilan palsu ke teman dan kerabat korban untuk mendapatkan hak milik.

Selain mengeksploitasi teknologi AI untuk aktivitas ilegal, pelaku kejahatan juga dapat menyerang algoritma AI. Misalnya, serangan "injeksi cepat" dengan memasukkan perintah berbahaya ke dalam model bahasa yang besar, bahkan melanggar aturan yang sebelumnya dibatasi; serangan adversarial dengan menambahkan bidang informasi tersembunyi ke gambar atau audio, untuk memengaruhi kemampuan klasifikasi gambar sistem pembelajaran mesin.

AI semakin terintegrasi ke dalam setiap aspek kehidupan manusia, mulai dari Apple Intelligence, Google Gemini, hingga Microsoft Copilot. Oleh karena itu, mengatasi kerentanan AI harus menjadi prioritas utama. Kaspersky telah menggunakan teknologi AI untuk melindungi pelanggan dan mitra selama bertahun-tahun, terus mencari kerentanan dalam sistem AI, meningkatkan ketahanan sistem, dan secara aktif meneliti teknik serangan siber untuk memberikan perlindungan yang andal terhadap serangan AI.

KIM THANH

Sumber: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html