OpenAI varuje, že hackeři zneužívají umělou inteligenci k provádění sofistikovanějších operací.

Říjnová zpráva OpenAI naznačuje, že kybernetičtí aktéři na celém světě primárně integrují umělou inteligenci (AI) do stávajících útočných procesů za účelem zvýšení efektivity, spíše než aby vyvíjeli zcela nové útočné nástroje nebo metody.

Podle OpenAI většina detekované aktivity zahrnuje využití umělé inteligence k asistenci při známých úkolech, jako je vývoj malwaru, budování kontrolní infrastruktury, vytváření sofistikovanějších phishingových e-mailů a shromažďování informací o cílech.

Zpráva uvádí: „Blokované týmy většinou integrovaly umělou inteligenci do stávajících procesů, spíše než aby vytvářely nové procesy založené na umělé inteligenci.“

Zpráva rovněž uvádí, že mnoho uživatelských skupin využívá rozsáhlé jazykové modely (LLM) k využití znalostí v různých technických oblastech, od vývoje aplikací až po konfiguraci síťových systémů, často se zaměřením na specializaci každého účtu pro specifické úkoly.

Bylo identifikováno několik dalších uživatelských sítí, které využívají platformy umělé inteligence k vytváření online obsahu, včetně článků, obrázků a videí , za účelem mediálních kampaní nebo propagace určitých názorů. Většina těchto účtů je však neefektivní a má velmi nízkou míru zapojení.

OpenAI dále zaznamenala případy podvodných center a center pro kybernetickou kriminalitu, která využívají ChatGPT k usnadnění online podvodných aktivit v Myanmaru a Kambodži. Některé případy ukazují, že umělá inteligence se používá nejen k tvorbě obsahu, ale také ke správě harmonogramů, personálu a financí.

OpenAI však zdůrazňuje, že umělá inteligence se aktivně využívá i v prevenci podvodů. Odhaduje se, že uživatelé ChatGPT ji třikrát častěji používají k identifikaci a vyhýbání se podvodům, než k jejich spáchání.“

Přestože systém většinu škodlivých požadavků odmítá, zpráva uvádí, že stále existuje „šedá zóna“ – kde by požadavky technické nebo výzkumné povahy mohly být zneužity k nezamýšleným účelům.

OpenAI však tvrdí, že kód nebo obsah, který generuje, není škodlivý, dokud není zneužit mimo platformu.

(VNA/Vietnam+)

Zdroj: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp