Az OpenAI figyelmeztet, hogy a hackerek a mesterséges intelligenciát használják a kifinomultabb működéshez.

Az OpenAI októberi jelentése megállapította, hogy a kiberszereplők világszerte elsősorban a mesterséges intelligenciát (MI) integrálják a meglévő támadási folyamatokba a teljesítmény javítása érdekében, ahelyett, hogy teljesen új támadási eszközöket vagy módszereket fejlesztenének.

Az OpenAI szerint az észlelt tevékenységek nagy része a mesterséges intelligencia használatára épült, olyan ismerős feladatokban segítve, mint a rosszindulatú programok fejlesztése, az ellenőrző infrastruktúra kiépítése, a kifinomultabb adathalász e-mailek létrehozása és a célpontokról való információk gyűjtése.

„A blokkolt csapatok többnyire a meglévő folyamatokba építették be a mesterséges intelligenciát, ahelyett, hogy új folyamatokat építettek volna ki a mesterséges intelligencia alapján” – áll a jelentésben.

A jelentés azt is megállapította, hogy számos felhasználói csoport nagy nyelvi modelleket (LLM) használt a tudás kiaknázására számos technikai területen, az alkalmazásfejlesztéstől a hálózati rendszerkonfigurációig, gyakran oly módon, hogy minden fiókot egy adott feladatra specializál.

Számos más felhasználói hálózatot is azonosítottak, amelyek mesterséges intelligencia platformokat használnak online tartalmak, többek között cikkek, képek és videók létrehozására, médiakampányok kiszolgálására vagy bizonyos nézőpontok népszerűsítésére. Ezeknek a fiókoknak a többsége azonban hatástalan, és nagyon alacsony az elköteleződési szintjük.

Ezenkívül az OpenAI feljegyezte a csalásközpontok és a kiberbűnözők ChatGPT-t használó online csalási tevékenységeinek támogatására Mianmarban és Kambodzsában. Egyes esetek azt mutatják, hogy a mesterséges intelligenciát nemcsak tartalom szerkesztésére, hanem a munkarendek, a humánerőforrás és a pénzügyek kezelésére is használják.

Az OpenAI azonban megjegyzi, hogy a mesterséges intelligenciát aktívan használják a csalások megelőzésére is. Becslések szerint a ChatGPT-t háromszor gyakrabban használják csalások azonosítására és elkerülésére, mint csalás elkövetésére.

A legtöbb rosszindulatú kérést a rendszer elutasítja, de a jelentés megjegyzi, hogy továbbra is van egy „szürke zóna”, ahol a technikai vagy kutatáson alapuló kéréseket nem kívánt célokra lehet felhasználni.

Az OpenAI azonban azt állítja, hogy a létrehozott kód vagy tartalom nem kártékony, amíg a platformon kívül nem használják fel.

(TTXVN/Vietnam+)

Forrás: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp