OpenAI memberi amaran kepada penggodam menggunakan AI untuk beroperasi dengan lebih canggih

Laporan Oktober OpenAI mendapati bahawa pelaku siber di seluruh dunia mengintegrasikan kecerdasan buatan (AI) ke dalam saluran paip serangan sedia ada untuk meningkatkan prestasi, dan bukannya membangunkan alat atau kaedah serangan baharu sepenuhnya.

Menurut OpenAI, kebanyakan aktiviti yang dikesan terlibat menggunakan AI untuk membantu dengan tugas biasa seperti membangunkan perisian hasad, membina infrastruktur kawalan, mencipta e-mel pancingan data yang lebih canggih dan mengumpul maklumat tentang sasaran.

"Pasukan yang disekat kebanyakannya menggabungkan AI ke dalam proses sedia ada, dan bukannya membina proses baharu berdasarkan AI," kata laporan itu.

Laporan itu juga mendapati bahawa banyak kumpulan pengguna telah memanfaatkan model bahasa besar (LLM) untuk melombong pengetahuan dalam pelbagai domain teknikal, daripada pembangunan aplikasi kepada konfigurasi sistem rangkaian, selalunya dengan cara yang mengkhususkan setiap akaun untuk tugas tertentu.

Beberapa rangkaian pengguna lain telah dikenal pasti menggunakan platform AI untuk menjana kandungan dalam talian, termasuk artikel, imej dan video , untuk menyampaikan kempen media atau mempromosikan sudut pandangan tertentu. Walau bagaimanapun, kebanyakan akaun ini tidak berkesan, dengan tahap penglibatan yang sangat rendah.

Selain itu, OpenAI juga telah merekodkan fenomena pusat penipuan dan penjenayah siber menggunakan ChatGPT untuk menyokong aktiviti penipuan dalam talian di Myanmar dan Kemboja. Sesetengah kes menunjukkan bahawa AI digunakan bukan sahaja untuk mengedit kandungan, tetapi juga untuk mengurus jadual kerja, sumber manusia dan kewangan.

Walau bagaimanapun, OpenAI menyatakan bahawa AI juga sedang digunakan secara aktif untuk mencegah penipuan. Dianggarkan bahawa ChatGPT digunakan tiga kali lebih kerap untuk mengenal pasti dan mengelakkan penipuan daripada melakukan penipuan.”

Kebanyakan permintaan berniat jahat ditolak oleh sistem, tetapi laporan itu menyatakan bahawa masih terdapat "kawasan kelabu" di mana permintaan berasaskan teknikal atau penyelidikan boleh dieksploitasi untuk tujuan yang tidak diingini.

Walau bagaimanapun, OpenAI menegaskan bahawa kod atau kandungan yang dibuat tidak berniat jahat sehingga ia disalahgunakan di luar platform./.

(TTXVN/Vietnam+)

Sumber: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp