OpenAI memperingatkan para peretas menggunakan AI untuk beroperasi lebih canggih

Kelompok peretas di seluruh dunia mengeksploitasi AI untuk membuat malware, membuat email phishing, dan mengumpulkan data, sehingga membuat serangan siber semakin sulit dideteksi dan dicegah, OpenAI memperingatkan.

Laporan OpenAI bulan Oktober menemukan bahwa pelaku dunia maya secara global terutama mengintegrasikan kecerdasan buatan (AI) ke dalam jalur serangan yang ada untuk meningkatkan kinerja, daripada mengembangkan alat atau metode serangan yang benar-benar baru.

Menurut OpenAI, sebagian besar aktivitas yang terdeteksi melibatkan penggunaan AI untuk membantu tugas-tugas yang umum seperti mengembangkan malware, membangun infrastruktur kontrol, membuat email phishing yang lebih canggih, dan mengumpulkan informasi tentang target.

“Tim-tim yang terblokir sebagian besar menggabungkan AI ke dalam proses yang sudah ada, alih-alih membangun proses baru berdasarkan AI,” demikian pernyataan laporan tersebut.

Laporan tersebut juga menemukan bahwa banyak kelompok pengguna telah memanfaatkan model bahasa besar (LLM) untuk menggali pengetahuan dalam berbagai domain teknis, dari pengembangan aplikasi hingga konfigurasi sistem jaringan, sering kali dengan cara yang mengkhususkan setiap akun untuk tugas tertentu.

Beberapa jaringan pengguna lain telah diidentifikasi menggunakan platform AI untuk menghasilkan konten daring, termasuk artikel, gambar, dan video , untuk menjalankan kampanye media atau mempromosikan sudut pandang tertentu. Namun, sebagian besar akun ini tidak efektif dan memiliki tingkat keterlibatan yang sangat rendah.

Selain itu, OpenAI juga mencatat fenomena pusat penipuan dan penjahat siber yang menggunakan ChatGPT untuk mendukung aktivitas penipuan daring di Myanmar dan Kamboja. Beberapa kasus menunjukkan bahwa AI tidak hanya digunakan untuk mengedit konten, tetapi juga untuk mengelola jadwal kerja, sumber daya manusia, dan keuangan.

Namun, OpenAI mencatat bahwa AI juga digunakan secara aktif untuk mencegah penipuan. Diperkirakan ChatGPT digunakan tiga kali lebih sering untuk mengidentifikasi dan menghindari penipuan daripada untuk melakukan penipuan.

Sebagian besar permintaan berbahaya ditolak oleh sistem, tetapi laporan tersebut mencatat bahwa masih ada "area abu-abu" di mana permintaan teknis atau berbasis penelitian dapat dieksploitasi untuk tujuan yang tidak diinginkan.

Namun, OpenAI menegaskan bahwa kode atau konten yang dibuat tidak berbahaya hingga disalahgunakan di luar platform.

(TTXVN/Vietnam+)

Sumber: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp