Selain kesan negatifnya terhadap alam sekitar dan sumber, kecerdasan buatan (AI) dengan pantas menjadi alat berisiko tinggi dalam bidang keselamatan siber. Sebagai bukti, OALABS Research baru-baru ini mendedahkan satu kes di mana seorang penggodam amatur Ethiopia menggunakan ejen AI daripada Claude dan OpenAI Codex untuk menjalankan beberapa siri serangan siber.
Walaupun arahan itu penuh dengan kesalahan ejaan dan tatabahasa serta hanya menawarkan arahan yang samar-samar, individu ini berjaya menceroboh banyak pelayan peribadi. Penggodam ini menyusup masuk ke dalam data selamat sekurang-kurangnya 14 syarikat dan juga merancang untuk mencuri mata wang kripto bernilai $4 juta.

Penggodam amatur menggunakan Claude dan Codex untuk menyerang 14 perniagaan.
Penggodam dan taktik mereka mengeksploitasi AI untuk memintas halangan sistem.
Penyerang telah memintas langkah-langkah keselamatan yang mantap dalam model Claude Opus dengan agak mudah melalui manipulasi psikologi. Dengan menyamar sebagai ahli yang menyelidik kelemahan keselamatan, penggodam telah memperdaya chatbot AI untuk menyediakan keseluruhan kod sumber serangan secara automatik. Sistem ini juga menggariskan kaedah eksploitasi terperinci seperti pemerasan, penjualan data dan mengarahkan secara langsung cara mencuri data. Chatbot ini hanya menyekat satu permintaan yang sengaja menyasarkan akaun digital peribadi keluarga tertentu.
Insiden luar biasa ini terbongkar sepenuhnya selepas mangsa yang pelayannya telah dikompromi menghubungi pakar OALABS . Terutamanya, identiti penggodam muda itu terbongkar hanya kerana dia sebelum ini meminta AI untuk mengedit profil peribadinya. Insiden itu menimbulkan kebimbangan mendalam tentang akses mudah orang ramai kepada alat teknologi berkuasa ini tanpa memerlukan pengetahuan khusus. Pengguna boleh menggunakan perantara AI lain dengan mudah untuk merangka arahan serangan berbahaya yang serupa.
Pada masa ini, syarikat gergasi teknologi seperti Anthropic dan OpenAI terhenti dalam mencari penyelesaian muktamad untuk mencegah serangan sedemikian. Mengetatkan batasan model akan secara langsung menghalang penyelidik keselamatan tulen daripada peluang untuk mengukuhkan sistem. Sebaliknya, mengekalkan status quo akan meninggalkan sempadan antara penggunaan beretika dan keuntungan haram sebagai halangan yang tidak dapat diatasi untuk AI. Mencari penyelesaian optimum untuk mencegah niat jahat pengguna kekal sebagai cabaran yang tidak dapat diselesaikan.
Menurut Akhbar Thanh Nien
Sumber: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html








