Biztonsági szakértő rávette a ChatGPT-t, hogy rosszindulatú kódot írjon

[hirdetés_1]

A mesterséges intelligencia (MI), mint például a ChatGPT, 2023 eleje óta globális szenzációnak számít, de ezt a MI-t nem mindig pozitív célokra használják. Nemrégiben egy biztonsági szakértő rájött egy módszerre, amellyel a ChatGPT-t tesztelés közben kártékony kód létrehozására lehet kérni.

Aaron Mulgrew, a Forcepoint biztonsági szakértője, megosztotta a kártevőírás kockázatait az OpenAI nyelvi chatbotjával. Bár a ChatGPT-t úgy tervezték, hogy megakadályozza a felhasználókat abban, hogy a mesterséges intelligenciát kártevők tervezésére kérjék, Aaron mégis talált egy kiskaput azzal, hogy olyan utasításokat hozott létre, amelyekkel a mesterséges intelligencia sorról sorra írta a programkódot. Amikor ezeket összevonták, Aaron rájött, hogy egy észrevehetetlen adatlopási eszköz van a kezében, amely annyira kifinomult, hogy összehasonlítható a mai legkifinomultabb kártevőkkel.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — A ChatGPT által generált minden egyes parancssor kombinálva kifinomult kártevővé válhat.

Mulgrew felfedezése figyelmeztető jel arra, hogy a mesterséges intelligencia segítségével veszélyes rosszindulatú programokat lehet létrehozni hackercsoport nélkül, vagy akár az eszköz készítőjének egyetlen sornyi kód megírása nélkül is.

A Mulgrew szoftvere képernyővédő alkalmazásnak álcázva van, de képes automatikusan aktiválódni Windows alapú eszközökön. Amint a rosszindulatú program bekerül az operációs rendszerbe, minden fájlba „beszivárog”, beleértve a Word szövegszerkesztőket, képfájlokat és PDF-eket, és adatokat keres az ellopásra.

Miután megkapta a szükséges információkat, a program lebontja az információkat, és a gépen található képfájlokhoz csatolja azokat. Az észlelés elkerülése érdekében a képeket feltölti egy Google Drive mappába. A rosszindulatú program azért olyan erős, mert a Mulgrew a ChatGPT-be beírt egyszerű parancsokkal képes módosítani és fejleszteni a funkcióit az észlelés elkerülése érdekében.

Bár ez egy biztonsági szakértők által végzett privát teszt volt, és a tesztelési kereteken kívül semmilyen támadást nem hajtottak végre, a kiberbiztonsági közösség továbbra is felismeri a ChatGPT-t használó tevékenységek veszélyeit. Mulgrew azt állítja, hogy nincs sok programozási tapasztalata, de az OpenAI mesterséges intelligenciája még mindig nem elég erős és okos ahhoz, hogy megakadályozza a tesztjét.

[hirdetés_2]
Forráslink