Penipuan AI, ancaman serius kepada keselamatan siber

Pancingan data telah lama menjadi senjata kegemaran penggodam di dunia siber. Ia berfungsi sebagai permulaan kepada pelbagai serangan, membenarkan pencurian bukti kelayakan, penembusan infrastruktur, dan gangguan operasi.

Kemunculan kecerdasan buatan (AI) membawa potensi dan cabaran, terutamanya dengan keselamatan siber.

Peningkatan model pembelajaran mesin (GPT) pra-latihan telah mencipta landskap ancaman baharu untuk landskap keselamatan siber. GPT ialah model bahasa yang besar dan rangka kerja utama untuk AI generatif.

Keupayaan untuk menjana teks tiruan yang meyakinkan pada skala telah menimbulkan kebimbangan dalam kalangan pakar keselamatan. Ini boleh memberi kesan besar pada penipuan berasaskan AI, penipuan e-mel, termasuk Kompromi E-mel Perniagaan (BEC).

Pancingan data adalah berdasarkan menipu pengguna akhir untuk mempercayai bahawa e-mel itu berasal daripada entiti yang sah. GPT boleh membantu dalam proses ini dengan membuat respons yang sepadan dengan gaya dan bahasa, menjadikan penerima percaya bahawa mereka berinteraksi dengan rakan sekerja atau individu yang dipercayai. Ini menjadikannya semakin sukar untuk membezakan antara teks yang dijana mesin dan yang dihasilkan oleh manusia dalam mesej.

Walaupun alat tersedia untuk mengenal pasti teks yang dijana mesin, kita mesti bersedia untuk senario di mana GPT berkembang untuk memintas perlindungan ini. Selain itu, penggodam boleh memanfaatkan model seperti GPT untuk mencipta imej, video atau menyasarkan industri tertentu, seterusnya meningkatkan risiko keselamatan siber.

Untuk mengurangkan ancaman ini, individu dan organisasi perlu menggunakan penyelesaian perlindungan E-mel yang dikuasakan AI dengan cepat. AI boleh melawan taktik jenayah siber moden dengan berkesan dan mengenal pasti aktiviti yang mencurigakan.

Kaedah pengesahan berbilang faktor (MFA) dan pengenalan biometrik boleh meningkatkan keselamatan, memberikan lapisan perlindungan tambahan terhadap pencerobohan penggodam.

Sebagai tambahan kepada langkah teknologi, program latihan dan kesedaran yang kerap adalah penting untuk meningkatkan elemen manusia terhadap serangan pancingan data. Pengalaman dan kewaspadaan manusia akan membantu mengenali dan bertindak balas secara berkesan terhadap percubaan pancingan data. Gamifikasi dan simulasi boleh digunakan untuk meningkatkan kesedaran dan mengenal pasti pengguna yang berisiko serangan siber.

Dengan kempen pancingan data yang dipacu GPT semakin berleluasa, organisasi mesti proaktif dalam usaha keselamatan siber mereka. Dengan memahami keupayaan teknologi GPT dan melaksanakan langkah keselamatan yang teguh, kami boleh mempertahankan dengan berkesan daripada ancaman penipuan yang didorong oleh AI yang semakin meningkat ini.

(menurut Barracuda)

Sumber: https://vietnamnet.vn/lua-dao-bang-ai-moi-de-doa-nghiem-trong-doi-voi-an-ninh-mang-2205857.html