Banyak tantangan bagi AI di era baru ini.

Seiring dengan semakin mudahnya akses terhadap AI, dan semakin banyak individu serta bisnis yang menggunakan AI melalui berbagai alat umum, peretas dapat secara bersamaan mengotomatiskan serangan, mempercepat proses operasional, dan melancarkan kampanye yang lebih canggih untuk mencapai tujuan ilegal mereka.

Kaspersky mengungkap jenis-jenis serangan siber berbasis AI.

Berikut beberapa metode serangan yang telah diamati Kaspersky: ChatGPT dapat digunakan untuk mengembangkan malware dan secara otomatis melancarkan serangan ke banyak korban; program AI menyusup ke data pengguna di ponsel pintar, dan melalui analisis data sensitif, penyerang dapat sepenuhnya "mencuri" pesan, kata sandi, dan kode bank dari korban; algoritma kecerdasan swarm membantu jaringan komputer secara otomatis (bonet) memulihkan jaringan berbahaya yang telah dihilangkan oleh solusi keamanan.

Penelitian Kaspersky tentang penggunaan AI untuk membobol kata sandi menunjukkan bahwa sebagian besar kata sandi dienkripsi menggunakan algoritma hashing seperti MD5 dan SHA. Oleh karena itu, operasi sederhana dapat mengubah kata sandi menjadi baris teks terenkripsi, tetapi membalikkan seluruh proses merupakan tantangan yang signifikan.

Melalui AI, pelaku kejahatan dapat mengeksploitasi konten palsu, termasuk teks, gambar, audio, dan video , untuk melancarkan serangan non-teknis. Model bahasa besar seperti ChatGPT-4o dimanfaatkan untuk menciptakan skenario dan pesan phishing yang sangat canggih. Dengan mengatasi hambatan bahasa, AI dapat menulis email yang tampak autentik hanya berdasarkan informasi dari media sosial. Bahkan dapat meniru gaya penulisan korban, sehingga penipuan menjadi lebih sulit dideteksi.

Sementara itu, teknologi Deepfake telah muncul sebagai "masalah" dalam keamanan siber, meskipun sebelumnya dianggap sebagai produk penelitian ilmiah . Menyamar sebagai selebriti untuk keuntungan finansial adalah metode yang paling umum; lebih jauh lagi, penipu menggunakan Deepfake untuk mencuri akun dan melakukan panggilan palsu ke teman dan kerabat korban untuk memeras uang.

Selain memanfaatkan teknologi AI untuk aktivitas ilegal, pelaku jahat juga dapat menyerang algoritma AI. Ini termasuk serangan "prompt injection", di mana perintah berbahaya disuntikkan ke dalam model bahasa yang besar, bahkan bertentangan dengan aturan yang sebelumnya telah ditetapkan; dan serangan adversarial, di mana bidang informasi tersembunyi ditambahkan ke gambar atau audio untuk memengaruhi kemampuan klasifikasi gambar dari sistem pembelajaran mesin.

AI semakin terintegrasi ke dalam setiap aspek kehidupan manusia, mulai dari Apple Intelligence dan Google Gemini hingga Microsoft Copilot. Oleh karena itu, mengatasi kerentanan AI harus menjadi prioritas utama. Kaspersky telah menggunakan teknologi AI untuk melindungi pelanggan dan mitranya selama bertahun-tahun, terus mencari kerentanan dalam sistem AI untuk meningkatkan ketahanannya dan secara aktif meneliti teknik serangan siber untuk memberikan perlindungan yang andal terhadap serangan berbasis AI.

KIM THANH

Sumber: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html