OpenAI varnar för att hackare använder AI för att arbeta mer sofistikerat

OpenAIs oktoberrapport fann att cyberaktörer globalt främst integrerar artificiell intelligens (AI) i befintliga attackkanaler för att förbättra prestanda, snarare än att utveckla helt nya attackverktyg eller metoder.

Enligt OpenAI involverade mycket av den upptäckta aktiviteten användning av AI för att hjälpa till med välbekanta uppgifter som att utveckla skadlig programvara, bygga kontrollinfrastruktur, skapa mer sofistikerade nätfiskemejl och samla in information om måltavlor.

”De blockerade teamen integrerade mestadels AI i befintliga processer, snarare än att bygga nya processer baserade på AI”, står det i rapporten.

Rapporten fann också att många användargrupper har utnyttjat stora språkmodeller (LLM) för att utvinna kunskap inom en mängd olika tekniska områden, från applikationsutveckling till nätverkssystemkonfiguration, ofta på ett sätt som specialiserar varje konto för en specifik uppgift.

Flera andra användarnätverk har identifierats som användande av AI-plattformar för att generera onlineinnehåll, inklusive artiklar, bilder och videor , för att driva mediekampanjer eller främja vissa synpunkter. De flesta av dessa konton är dock ineffektiva, med mycket låga engagemangsnivåer.

Dessutom har OpenAI även registrerat fenomenet med bedrägericentraler och cyberbrottslingar som använder ChatGPT för att stödja onlinebedrägerier i Myanmar och Kambodja. Vissa fall visar att AI inte bara används för att redigera innehåll, utan även för att hantera arbetsscheman, personal och ekonomi.

OpenAI noterar dock att AI också aktivt används för att förhindra bedrägerier. Det uppskattas att ChatGPT används tre gånger oftare för att identifiera och undvika bedrägerier än för att begå bedrägerier.

De flesta skadliga förfrågningar avvisas av systemet, men rapporten noterar att det fortfarande finns en "gråzon" där tekniska eller forskningsbaserade förfrågningar kan utnyttjas för oavsiktliga syften.

OpenAI hävdar dock att koden eller innehållet som skapas inte är skadligt förrän det missbrukas utanför plattformen.

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp