OpenAI varuje, že hackeři využívají umělou inteligenci k sofistikovanějšímu provozu

Říjnová zpráva OpenAI zjistila, že kybernetičtí aktéři na celém světě primárně integrují umělou inteligenci (AI) do stávajících útočných kanálů za účelem zlepšení výkonu, spíše než aby vyvíjeli zcela nové útočné nástroje nebo metody.

Podle OpenAI se velká část zjištěné aktivity týkala využití umělé inteligence k asistenci se známými úkoly, jako je vývoj malwaru, budování kontrolní infrastruktury, vytváření sofistikovanějších phishingových e-mailů a shromažďování informací o cílech.

„Zablokované týmy většinou začleňovaly umělou inteligenci do stávajících procesů, spíše než aby vytvářely nové procesy založené na umělé inteligenci,“ uvádí se ve zprávě.

Zpráva také zjistila, že mnoho uživatelských skupin využívá modely velkých jazyků (LLM) k získávání znalostí v různých technických oblastech, od vývoje aplikací až po konfiguraci síťových systémů, často způsobem, který specializuje každý účet na konkrétní úkol.

Bylo identifikováno několik dalších uživatelských sítí, které využívají platformy umělé inteligence k vytváření online obsahu, včetně článků, obrázků a videí , k podpoře mediálních kampaní nebo k propagaci určitých názorů. Většina těchto účtů je však neefektivní a má velmi nízkou míru zapojení.

OpenAI navíc zaznamenala fenomén podvodných center a kyberzločinců využívajících ChatGPT k podpoře online podvodných aktivit v Myanmaru a Kambodži. Některé případy ukazují, že umělá inteligence se používá nejen k úpravě obsahu, ale také ke správě pracovních harmonogramů, lidských zdrojů a financí.

OpenAI však poznamenává, že umělá inteligence se aktivně využívá i k prevenci podvodů. Odhaduje se, že ChatGPT se používá třikrát častěji k identifikaci a zamezení podvodů než k jejich spáchání.“

Většinu škodlivých požadavků systém odmítá, ale zpráva uvádí, že stále existuje „šedá zóna“, kde lze technické nebo výzkumné požadavky zneužít k nezamýšleným účelům.

OpenAI však tvrdí, že vytvořený kód nebo obsah není škodlivý, dokud není zneužit mimo platformu.

(TTXVN/Vietnam+)

Zdroj: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp