Hackers kunnen vertrouwelijke bedrijfsinformatie verkrijgen door te 'praten' met een AI-chatbot

Volgens technologie-experts kunnen hackers met behulp van een reeks geavanceerde prompts ongemerkt de 'vertrouwelijke' database van een bedrijf binnendringen.

Overzicht van het OpenInfra & Cloud Native Day Vietnam 2025-evenement met als thema "Vietnams digitale doorbraaktijdperk" - Foto: CHI HIEU

Kunstmatige intelligentie (AI) levert veel voordelen op, vooral nu het door veel bedrijven wordt geïntegreerd om eindgebruikers zoals werknemers en klanten te bedienen. AI-geïntegreerde chatbotsystemen kunnen een 'smalle deur' vormen voor hackers om gegevensopslagsystemen aan te vallen en informatie te stelen.

"Er zijn momenteel veel methoden om AI-modellen aan te vallen. De meest voorkomende is 'content poisoning', wat 'onzichtbaar' lijkt te zijn voor traditionele informatiebeveiligingssystemen", waarschuwde de heer Dao Viet Hung, country director van Akamai Technologies Vietnam, tijdens het evenement OpenInfra & Cloud Native Day Vietnam 2025 dat op 26 juli in Hanoi werd gehouden.

Het evenement werd georganiseerd door de Vietnam Internet Association (VIA) in samenwerking met de Vietnam Open Infrastructure Community (VietOpenInfra), de Vietnam Cloud Computing and Data Center Club (VNCDC), met de steun van het Ministerie van Wetenschap en Technologie .

90% van de bedrijven maakt gebruik van open platformen of software

In zijn openingstoespraak benadrukte de heer Vu The Binh, vicevoorzitter en secretaris-generaal van de Vietnam Internet Association, het belang van open infrastructuur en open source code in het nationale digitale transformatieproces.

In de context van snelle veranderingen in de wereldwijde technologie zei de heer Binh dat open infrastructuur zich blijft ontwikkelen als basis voor innovatie, aangezien meer dan 90% van de bedrijven open platformen of software in vele vormen gebruikt.

Volgens een onderzoek van Red Hat (2024) beschouwt 82% van de technologieleiders open platformen en software als essentieel voor het stimuleren van digitale transformatie en het versnellen van innovatie. Platformen zoals Kubernetes, OpenStack, Linux, Ceph en OpenTelemetry spelen een steeds belangrijkere rol in de werking van AI, IoT, 5G/6G-systemen en cloudnative systemen.

"Tien jaar geleden kon je cloud verwarren met wolken in de lucht, en open source klonk als een 'vechtsportgeheim'. Maar vandaag de dag zijn we hier en verbinden we ons met de wereldwijde Open Infrastructure-community in meer dan 180 landen, en samen zetten we code om in de drijvende kracht achter innovatie", aldus de heer Vu The Binh.

AI Chatbot - "smalle deur" voor hackers om het systeem binnen te dringen

Momenteel maken veel bedrijven intensief gebruik van de effectiviteit van open, responsieve platforms die systemen zoals AI-chatbots integreren om de werkprestaties te verbeteren en de gebruikerservaring te optimaliseren.

Ook hier zijn veel aanvalsmethoden op AI-modellen mogelijk, waaronder 'content poisoning'-aanvallen, waarschuwde de heer Dao Viet Hung, country director van Akamai Technologies Vietnam.

Hij merkte op dat Vietnamese bedrijven nog niet veel weten over deze aanvalsvorm als ze AI inzetten.

Kwaadwillenden maken daarom gebruik van de methode om het AI-model voortdurend om valse informatie te vragen en deze opnieuw te leren, waardoor er sprake is van informatievergiftiging.

Als de informatie in het cloudsysteem is 'geïnfecteerd' en niet wordt gedetecteerd en verder wordt gebruikt, zal het onjuiste informatie verstrekken of deze kwetsbaarheid gebruiken om de database binnen te dringen en informatie te verkrijgen.

De heer Dao Viet Hung, landendirecteur van Akamai Technologies Vietnam - Foto: CHI HIEU

De heer Dao Viet Hung haalde een zeldzaam verhaal aan van een autobedrijf dat via een chatbotsysteem voor onlineverkoop een nieuwe auto voor slechts 1 dollar wist te verkopen.

De reden hiervoor is dat deze klant tijdens het proces van uitwisselen en onderhandelen met de chatbot een manier vond om 'ingelogd' te worden in de database en de chatbot ervan te overtuigen om akkoord te gaan met het bovenstaande verzoek.

Een ander voorbeeld is wanneer een hacker met succes alle vertrouwelijke documenten en organigrammen van een bedrijf in handen krijgt door simpelweg de juiste vragen te stellen en deze naar de interne AI-chatbot te sturen.

Vanuit dat risico deelde de heer Dao Viet Hung de AI-beveiligingsoplossing, zodat AI AI kan beschermen. Dit is een vorm die door veel grote ondernemingen in de wereld wordt gebruikt.

Met deze beveiligingsmethode worden de opgeslagen gegevens beschermd door meerdere beschermingslagen, waardoor ze moeilijk te 'besmetten' zijn.

Het AI-beveiligingssysteem kan detecteren welke informatie veilig is en welke informatie een potentieel aanvalsrisico vormt. Op basis daarvan kan het een snel en passend actieplan opstellen.

Terug naar het onderwerp

Kinderlijke vroomheid

Bron: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm