Pe lângă impactul său negativ asupra mediului și resurselor, inteligența artificială (IA) devine rapid un instrument cu risc ridicat în domeniul securității cibernetice. Ca dovadă, OALABS Research a dezvăluit recent un caz în care un hacker amator etiopian a folosit agenți de inteligență artificială de la Claude și OpenAI Codex pentru a efectua o serie de atacuri cibernetice.
Deși comanda era plină de greșeli de ortografie și gramatică și oferea doar instrucțiuni vagi, această persoană a reușit să compromită numeroase servere private. Hackerul a infiltrat datele securizate a cel puțin 14 companii și chiar a complotat să fure criptomonede în valoare de 4 milioane de dolari.

Hackerii amatori i-au folosit pe Claude și Codexul pentru a ataca 14 afaceri.
Hackerii și tacticile lor de exploatare a inteligenței artificiale pentru a ocoli barierele sistemului.
Atacatorii au ocolit relativ ușor măsurile robuste de securitate ale modelului Claude Opus prin manipulare psihologică. Dându-se drept membri care cercetează vulnerabilități de securitate, hackerii au păcălit chatbot-ul cu inteligență artificială să furnizeze automat întregul cod sursă al atacului. Sistemul a descris chiar și metode detaliate de exploatare, cum ar fi extorcarea, vânzarea de date și a instruit direct cum să fure date. Acest chatbot a blocat o singură solicitare care viza în mod deliberat conturile digitale personale ale unei anumite familii.
Acest incident neobișnuit a fost pe deplin dezvăluit după ce o victimă al cărei server a fost compromis a contactat experții OALABS . În special, identitatea tânărului hacker a fost dezvăluită pur și simplu pentru că acesta solicitase anterior inteligenței artificiale să îi editeze profilul personal. Incidentul a stârnit îngrijorări profunde cu privire la accesul facil al publicului la aceste instrumente tehnologice puternice, fără a necesita cunoștințe specializate. Utilizatorii ar putea folosi cu ușurință un alt intermediar AI pentru a redacta comenzi de atac similare și periculoase.
În prezent, giganți tehnologici precum Anthropic și OpenAI se află într-un impas în găsirea unei soluții definitive pentru a preveni astfel de atacuri. Înăsprirea limitelor modelului i-ar priva în mod direct pe cercetătorii în domeniul securității de oportunitatea de a consolida sistemul. În schimb, menținerea status quo-ului ar face din linia dintre utilizarea etică și câștigul ilicit un obstacol insurmontabil pentru IA. Găsirea soluției optime pentru a preveni intenția rău intenționată a utilizatorilor rămâne o provocare nerezolvată.
Conform ziarului Thanh Nien
Sursă: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html









