I tillegg til de negative konsekvensene for miljø og ressurser, er kunstig intelligens (KI) raskt i ferd med å bli et høyrisikoverktøy innen cybersikkerhet. Som bevis avslørte OALABS Research nylig en sak der en amatørhacker fra Etiopia brukte KI-agenter fra Claude og OpenAI Codex til å utføre en rekke cyberangrep.
Til tross for at kommandoen var full av stave- og grammatikkfeil og kun ga vage instruksjoner, klarte denne personen å kompromittere en rekke private servere. Denne hackeren infiltrerte sikre data til minst 14 selskaper og planla til og med å stjele kryptovaluta verdt 4 millioner dollar.

Amatørhackere brukte Claude og Codex til å angripe 14 bedrifter.
Hackere og deres taktikker for å utnytte AI for å omgå systembarrierer.
Angriperne omgikk de robuste sikkerhetstiltakene i Claude Opus-modellen relativt enkelt gjennom psykologisk manipulasjon. Ved å utgi seg for å være medlemmer som undersøkte sikkerhetssårbarheter, lurte hackerne AI-chatboten til automatisk å gi hele kildekoden til angrepet. Systemet skisserte til og med detaljerte utnyttelsesmetoder som utpressing, datasalg og instruerte direkte hvordan man stjeler data. Denne chatboten blokkerte bare én forespørsel som bevisst var rettet mot de personlige digitale kontoene til en bestemt familie.
Denne uvanlige hendelsen ble fullstendig avslørt etter at et offer med en kompromittert server kontaktet OALABS- eksperter. Det er verdt å merke seg at den unge hackerens identitet ble avslørt rett og slett fordi han tidligere hadde bedt AI-en om å redigere hans personlige profil. Hendelsen vakte dyp bekymring for publikums enkle tilgang til disse kraftige teknologiske verktøyene uten at det kreves spesialkunnskap. Brukere kunne enkelt bruke en annen AI-mellommann til å utarbeide lignende farlige angrepskommandoer.
For tiden står teknologigiganter som Anthropic og OpenAI stille når det gjelder å finne en definitiv løsning for å forhindre slike angrep. Å stramme inn modellens begrensninger ville direkte frata ekte sikkerhetsforskere muligheten til å styrke systemet. Omvendt ville det å opprettholde status quo etterlate grensen mellom etisk bruk og ulovlig vinning som en uoverstigelig hindring for AI. Å finne den optimale løsningen for å forhindre ondsinnede brukerhensikter er fortsatt en uløst utfordring.
Ifølge avisen Thanh Nien
Kilde: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










