Hackere kan få tak i topphemmelig bedriftsinformasjon ved å «betro seg» til AI-chatbot

Ifølge teknologieksperter kan hackere ved å bruke en rekke sofistikerte ledetekster trenge inn i et selskaps «konfidensielle» database uten å bli oppdaget.

Oversikt over OpenInfra & Cloud Native Day Vietnam 2025-arrangementet med temaet «Vietnams digitale gjennombruddstid» - Foto: CHI HIEU

Kunstig intelligens (KI) bringer mange verdier, spesielt nå integrert av mange bedrifter for å betjene sluttbrukere som bedriftsansatte, kunder... Herfra kan KI-integrerte chatbot-systemer bli en «smal dør» for å hjelpe hackere med å angripe og stjele informasjon på datalagringssystemer.

«Det finnes for tiden mange metoder for å angripe AI-modeller, og den vanligste av disse er «innholdsforgiftning», som ser ut til å være «usynlig» for tradisjonelle informasjonsbeskyttelsessystemer», advarte Dao Viet Hung, landsdirektør i Akamai Technologies Vietnam, på arrangementet OpenInfra & Cloud Native Day Vietnam 2025 som ble holdt 26. juli i Hanoi .

Arrangementet ble organisert av Vietnam Internet Association (VIA) i samarbeid med Vietnam Open Infrastructure Community (VietOpenInfra), Vietnam Cloud Computing and Data Center Club (VNCDC), med støtte fra Vitenskaps- og teknologidepartementet .

90 % av bedriftene bruker åpne plattformer eller programvare

I sin åpningstale understreket Vu The Binh – visepresident og generalsekretær i Vietnam Internet Association – viktigheten av åpen infrastruktur og åpen kildekode i den nasjonale digitale transformasjonsprosessen.

I sammenheng med raske endringer i global teknologi, sa Binh at åpen infrastruktur fortsetter å utvikle seg som et grunnlag for innovasjon når mer enn 90 % av bedriftene bruker åpne plattformer eller programvare i mange former.

Ifølge en Red Hat-undersøkelse (2024) ser 82 % av teknologiledere åpne plattformer og programvare som nøkkelen til å drive digital transformasjon og akselerere innovasjon. Plattformer som Kubernetes, OpenStack, Linux, Ceph og OpenTelemetry spiller en stadig viktigere rolle i driften av AI, IoT, 5G/6G-systemer samt Cloud Native.

«For 10 år siden kunne man forveksle skyen med skyer på himmelen, og åpen kildekode hørtes ut som en «kampsporthemmelighet». Men i dag er vi her og kobler oss til det globale fellesskapet av åpen infrastruktur i mer enn 180 land, og sammen gjør vi kodelinjer til drivkraften for innovasjon», delte Vu The Binh.

AI Chatbot – «smal dør» for hackere å trenge inn i systemet

«For tiden bruker mange bedrifter effektiviteten til åpne, responsive plattformer som integrerer systemer som AI-chatboter for å forbedre arbeidsytelsen og brukeropplevelsen.»

Også herfra advarte Dao Viet Hung, landsdirektør i Akamai Technologies Vietnam, om mange angrepsmetoder på AI-modeller, inkludert «innholdsforgiftningsangrep».

Han kommenterte at vietnamesiske bedrifter fortsatt ikke vet mye om denne formen for angrep når de tar i bruk AI.

Følgelig bruker dårlige aktører metoden med å kontinuerlig spørre og lære AI-modellen om falsk informasjon på nytt, noe som forårsaker informasjonsforgiftning.

Hvis informasjonen i skysystemet har blitt «infisert» og ikke oppdages og fortsetter å bli brukt, vil det gi feil informasjon eller bruke denne sårbarheten til å snike seg inn i databasen med det formål å innhente informasjon.

Mr. Dao Viet Hung, landsdirektør for Akamai Technologies Vietnam - Foto: CHI HIEU

Herr Dao Viet Hung viste til en sjelden historie der et bilfirmas chatbot-system for nettsalg ble overbevist om å selge en ny bil for bare én dollar.

Årsaken er at underveis i prosessen med utveksling og forhandling med chatboten, fant denne kunden en måte å «snike» seg inn i databasen og overbevise chatboten om å godta forespørselen ovenfor.

Et annet eksempel er da en hacker klarte å få tak i alle selskapets konfidensielle dokumenter og organisasjonskart bare ved å skrive de riktige spørsmålene og sende dem til den interne AI-chatboten.

Fra den risikoen delte Dao Viet Hung AI-sikkerhetsløsningen slik at AI kan beskytte AI, dette er en form som brukes av mange store bedrifter i verden .

Med denne sikkerhetsmetoden integrerer de lagrede dataene flere lag med beskyttelse, noe som gjør det vanskelig å bli "infisert".

AI-sikkerhetssystemet kan oppdage hvilken informasjon som er ren og hvilken informasjon som har potensiell angrepsrisiko, og dermed ha en rask og passende håndteringsplan ...

Tilbake til emnet

Sønlig fromhet

Kilde: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm