Ympäristöön ja luonnonvaroihin kohdistuvien kielteisten vaikutusten lisäksi tekoälystä (AI) on nopeasti tulossa riskialtis työkalu kyberturvallisuuden alalla. Todisteena tästä OALABS Research paljasti äskettäin tapauksen, jossa amatööri-etiopialainen hakkeri käytti Clauden ja OpenAI Codexin tekoälyagentteja useiden kyberhyökkäysten toteuttamiseen.
Vaikka komento oli täynnä kirjoitus- ja kielioppivirheitä ja antoi vain epämääräisiä ohjeita, tämä henkilö onnistui murtautumaan useisiin yksityisiin palvelimiin. Hakkeri soluttautui ainakin 14 yrityksen suojattuihin tietoihin ja jopa suunnitteli varastavansa 4 miljoonan dollarin arvosta kryptovaluuttaa.

Amatöörihakkerit käyttivät Claudea ja Codexia hyökätäkseen 14 yritykseen.
Hakkerit ja heidän taktiikkansa tekoälyn hyödyntämiseksi järjestelmäesteiden ohittamiseksi.
Hyökkääjät ohittivat Claude Opus -mallin vankat turvatoimet suhteellisen helposti psykologisen manipuloinnin avulla. Tekemällä olevansa tietoturva-aukkoja tutkivia jäseniä hakkerit huijasivat tekoälychatbotin antamaan automaattisesti hyökkäyksen koko lähdekoodin. Järjestelmä jopa esitteli yksityiskohtaisia hyväksikäyttömenetelmiä, kuten kiristystä ja datan myyntiä, ja ohjeisti suoraan, miten tietoja varastetaan. Tämä chatbot esti vain yhden pyynnön, joka oli tarkoituksella kohdistunut tietyn perheen henkilökohtaisiin digitaalisiin tileihin.
Tämä epätavallinen tapaus paljastui täysin sen jälkeen, kun uhri, jonka palvelimelle oli murtauduttu, otti yhteyttä OALABS:n asiantuntijoihin. Merkittävää oli, että nuoren hakkerin henkilöllisyys paljastui yksinkertaisesti siksi, että hän oli aiemmin pyytänyt tekoälyä muokkaamaan henkilökohtaista profiiliaan. Tapaus herätti syvää huolta siitä, kuinka helposti yleisöllä on pääsy näihin tehokkaisiin teknologisiin työkaluihin ilman erikoisosaamista. Käyttäjät voisivat helposti käyttää toista tekoälyvälittäjää laatiakseen vastaavia vaarallisia hyökkäyskomentoja.
Tällä hetkellä teknologiajätit, kuten Anthropic ja OpenAI, ovat umpikujassa lopullisen ratkaisun löytämisessä tällaisten hyökkäysten estämiseksi. Mallin rajoitusten tiukentaminen veisi suoraan aidoilta tietoturvatutkijoilta mahdollisuuden vahvistaa järjestelmää. Toisaalta nykytilanteen ylläpitäminen jättäisi eettisen käytön ja laittoman hyödyn välisen rajan ylitsepääsemättömäksi esteeksi tekoälylle. Optimaalisen ratkaisun löytäminen haitallisten käyttäjien aikomusten estämiseksi on edelleen ratkaisematon haaste.
Thanh Nien -sanomalehden mukaan
Lähde: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










