Biztonsági szakértő „trükkökkel” rávette a ChatGPT-t, hogy kártevőt írjon.

A mesterséges intelligencia (MI), mint például a ChatGPT, 2023 eleje óta globális szenzációnak számít, de nem mindig pozitív célokra használják. Nemrégiben egy biztonsági szakértő felfedezett egy módszert, amellyel a ChatGPT-t tesztelés közben rosszindulatú kód generálására lehet utasítani.

Aaron Mulgrew, a Forcepoint biztonsági szakértője, megosztotta az OpenAI kétnyelvű chatbotjával írt rosszindulatú kódok kockázatait. Bár a ChatGPT célja, hogy megakadályozza a felhasználókat abban, hogy a mesterséges intelligenciát rosszindulatú programok tervezésére kérjék, Aaron egy sebezhetőséget talált azzal, hogy parancsokat (promptokat) hozott létre a mesterséges intelligencia számára, hogy sorról sorra írja a kódot. Amikor ezeket összevonták, Aaron rájött, hogy egy észrevehetetlen adatlopó végrehajtó eszköz van a kezében, amely annyira kifinomult, hogy még a jelenleg elérhető legfejlettebb rosszindulatú programokkal is vetekszik.

A ChatGPT által generált minden egyes kódsor kombinálva kifinomult rosszindulatú programká válhat.

Mulgrew felfedezése intő jelként szolgál arra vonatkozóan, hogy a mesterséges intelligencia kihasználásával veszélyes rosszindulatú programokat lehet létrehozni hackercsoportok nélkül, és anélkül, hogy az alkotók egyetlen sornyi kódot is írtak volna.

A Mulgrew rosszindulatú programja asztali alkalmazásnak álcázott, de automatikusan aktiválódhat Windows eszközökön. Miután bejutott az operációs rendszerbe, a rosszindulatú program „beszivárog” az összes fájlba, beleértve a Word dokumentumokat, képfájlokat és PDF-eket, hogy ellopható adatokat keressen.

Miután megszerzi a szükséges információkat, a program lebontja azokat, és képfájlokba ágyazza a számítógépen. Az észlelés elkerülése érdekében ezeket a képeket feltölti egy mappába a Google Drive felhőalapú tárhelyén. A rosszindulatú program hihetetlenül erőssé válik, mivel a Mulgrew képes finomhangolni és fejleszteni a funkcióit, hogy elkerülje az észlelést a ChatGPT-be beírt egyszerű parancsokkal.

Bár ez egy biztonsági szakértő által végzett privát teszt eredménye volt, és a tesztterületen kívül nem hajtottak végre támadásokat, a kiberbiztonsági szakértők továbbra is felismerték a ChatGPT használatával végzett tevékenységek veszélyeit. Mulgrew kijelentette, hogy neki magának nincs sok programozási tapasztalata, de az OpenAI mesterséges intelligenciája még mindig nem elég erős vagy intelligens ahhoz, hogy megállítsa a tesztjét.

Forráslink: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm