Hackare kan få tag på topphemlig företagsinformation genom att "anförtro sig" med AI-chatbot

Enligt teknikexperter kan hackare, genom att använda en serie sofistikerade uppmaningar, tränga in i ett företags "konfidentiella" databas utan att bli upptäckta.

Översikt över evenemanget OpenInfra & Cloud Native Day Vietnam 2025 med temat "Vietnams digitala genombrottsera" - Foto: CHI HIEU

Artificiell intelligens (AI) tillför många värden, särskilt nu integrerad av många företag för att betjäna slutanvändare som företagsanställda, kunder... Härifrån kan AI-integrerade chatbotsystem bli en "smal dörr" för att hjälpa hackare att attackera och stjäla information på datalagringssystem.

”Det finns för närvarande många metoder för att attackera AI-modeller, varav den vanligaste är 'innehållsförgiftning', vilket verkar vara 'osynligt' för traditionella informationsskyddssystem”, varnade Dao Viet Hung, landschef för Akamai Technologies Vietnam, vid evenemanget OpenInfra & Cloud Native Day Vietnam 2025 som hölls den 26 juli i Hanoi .

Evenemanget organiserades av Vietnam Internet Association (VIA) i samarbete med Vietnam Open Infrastructure Community (VietOpenInfra), Vietnam Cloud Computing and Data Center Club (VNCDC), med stöd av ministeriet för vetenskap och teknik .

90 % av företagen använder öppna plattformar eller programvara

I sitt öppningstal betonade Vu The Binh – vice ordförande och generalsekreterare för Vietnam Internet Association – vikten av öppen infrastruktur och öppen källkod i den nationella digitala transformationsprocessen.

I samband med snabba förändringar inom global teknologi sa Binh att öppen infrastruktur fortsätter att utvecklas som en grund för innovation när mer än 90 % av företagen använder öppna plattformar eller programvara i många former.

Enligt en undersökning från Red Hat (2024) ser 82 % av teknikledarna öppna plattformar och programvara som nyckeln till att driva digital transformation och accelerera innovation. Plattformar som Kubernetes, OpenStack, Linux, Ceph och OpenTelemetry spelar en allt viktigare roll i driften av AI, IoT, 5G/6G-system samt Cloud Native.

”För 10 år sedan kunde molnet misstas för moln på himlen, och öppen källkod lät som en 'kampsportshemlighet'. Men idag är vi här och knyter an till den globala gemenskapen för öppen infrastruktur i mer än 180 länder, och tillsammans förvandlar vi kodrader till drivkraften för innovation”, delade Vu The Binh.

AI-chatbot – en "smal dörr" för hackare att tränga in i systemet

"För närvarande tillämpar många företag effektiviteten hos öppna, responsiva plattformar som integrerar system som AI-chattrobotar för att förbättra arbetsprestanda och förbättra användarupplevelsen."

Även härifrån finns det många attackmetoder mot AI-modeller, inklusive attacker med "innehållsförgiftning", varnade Dao Viet Hung, landschef för Akamai Technologies Vietnam.

Han kommenterade att vietnamesiska företag fortfarande inte vet mycket om denna form av attack när de använder AI.

Följaktligen använder ondskefulla aktörer metoden att kontinuerligt fråga och lära om falsk information till AI-modellen, vilket orsakar informationsförgiftning.

Om informationen i molnsystemet har blivit "infekterad" och inte upptäcks utan fortsätter att användas, kommer det att ge felaktig information eller utnyttja denna sårbarhet för att smyga sig in i databasen i syfte att få information.

Herr Dao Viet Hung, landschef för Akamai Technologies Vietnam - Foto: CHI HIEU

Herr Dao Viet Hung nämnde en sällsynt historia där ett bilföretags chatbotsystem för onlineförsäljning övertygades att sälja en ny bil för bara 1 dollar.

Anledningen är att under processen med utbyte och förhandling med chatboten hittade den här kunden ett sätt att "smyga" in i databasen och övertyga chatboten att gå med på ovanstående begäran.

Ett annat exempel är när en hackare lyckades få tag på alla företagets konfidentiella dokument och organisationsscheman bara genom att formulera rätt frågor och skicka dem till den interna AI-chatboten.

Utifrån den risken delade Dao Viet Hung med sig av AI-säkerhetslösningen så att AI kan skydda AI, en form som används av många stora företag i världen .

Med denna säkerhetsmetod integrerar den lagrade informationen flera skyddslager, vilket gör det svårt att bli "infekterad".

AI-säkerhetssystemet kan upptäcka vilken information som är ren och vilken information som har potentiella attackrisker, varifrån det kommer att ha en snabb och lämplig hanteringsplan...

Tillbaka till ämnet

Sonlig fromhet

Källa: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm