Hacker können durch „Anvertrauen“ eines KI-Chatbots an streng geheime Unternehmensinformationen gelangen

Laut Technologieexperten können Hacker mithilfe einer Reihe ausgeklügelter Eingabeaufforderungen unbemerkt in die „vertrauliche“ Datenbank eines Unternehmens eindringen.

Überblick über die Veranstaltung OpenInfra & Cloud Native Day Vietnam 2025 mit dem Thema „Vietnams digitales Durchbruchszeitalter“ – Foto: CHI HIEU

Künstliche Intelligenz (KI) bringt viele Vorteile mit sich, insbesondere da sie mittlerweile von vielen Unternehmen integriert wird, um Endbenutzer wie Firmenmitarbeiter, Kunden usw. zu bedienen. Von hier aus können KI-integrierte Chatbot-Systeme zu einer „engen Tür“ werden, durch die Hacker Datenspeichersysteme angreifen und Informationen stehlen können.

„Derzeit gibt es viele Methoden, KI-Modelle anzugreifen. Die häufigste davon ist ‚Content Poisoning‘, das für herkömmliche Informationsschutzsysteme ‚unsichtbar‘ zu sein scheint“, warnte Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam, auf der Veranstaltung OpenInfra & Cloud Native Day Vietnam 2025, die am 26. Juli in Hanoi stattfand.

Die Veranstaltung wurde von der Vietnam Internet Association (VIA) in Abstimmung mit der Vietnam Open Infrastructure Community (VietOpenInfra) und dem Vietnam Cloud Computing and Data Center Club (VNCDC) mit Unterstützung des Ministeriums für Wissenschaft und Technologie organisiert.

90 % der Unternehmen nutzen offene Plattformen oder Software

In seiner Eröffnungsrede betonte Herr Vu The Binh – Vizepräsident und Generalsekretär der Vietnam Internet Association – die Bedeutung offener Infrastruktur und Open Source-Codes im nationalen digitalen Transformationsprozess.

Im Kontext der rasanten Veränderungen in der globalen Technologie sagte Herr Binh, dass sich die offene Infrastruktur weiterhin als Grundlage für Innovationen entwickle, da mehr als 90 % der Unternehmen offene Plattformen oder Software in vielen Formen verwenden.

Laut einer Red Hat-Umfrage (2024) sehen 82 % der Technologieführer offene Plattformen und Software als Schlüssel zur Förderung der digitalen Transformation und zur Beschleunigung von Innovationen. Plattformen wie Kubernetes, OpenStack, Linux, Ceph und OpenTelemetry spielen eine zunehmend wichtige Rolle beim Betrieb von KI-, IoT-, 5G/6G-Systemen sowie Cloud Native.

„Vor 10 Jahren hätte man die Cloud noch mit Wolken am Himmel verwechselt und Open Source klang wie ein ‚Kampfkunstgeheimnis‘. Doch heute sind wir hier und vernetzen uns mit der globalen Open Infrastructure-Community in über 180 Ländern. Gemeinsam machen wir aus Codezeilen die treibende Kraft für Innovationen“, erklärte Herr Vu The Binh.

KI-Chatbot – „enge Tür“ für Hacker, um in das System einzudringen

„Derzeit nutzen viele Unternehmen intensiv die Effektivität offener, reaktionsfähiger Plattformen, die Systeme wie KI-Chatbots integrieren, um die Arbeitsleistung zu verbessern und das Benutzererlebnis zu optimieren.

Auch von hier aus kommen viele Angriffsmethoden auf KI-Modelle, darunter „Content Poisoning“-Angriffe, warnte Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam.

Er merkte an, dass vietnamesische Unternehmen beim Einsatz von KI noch nicht viel über diese Art von Angriffen wüssten.

Dementsprechend verwenden böswillige Akteure die Methode, dem KI-Modell kontinuierlich falsche Informationen abzufragen und erneut beizubringen, was zu einer „Informationsvergiftung“ führt.

Wenn die Informationen im Cloud-System „infiziert“ wurden und nicht erkannt werden und weiterhin verwendet werden, werden falsche Informationen ausgegeben oder diese Sicherheitslücke wird ausgenutzt, um sich in die Datenbank einzuschleichen und Informationen zu erhalten.

Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam – Foto: CHI HIEU

Herr Dao Viet Hung erzählte von einer seltenen Geschichte, bei der das Online-Verkaufs-Chatbot-System eines Autoherstellers davon überzeugt wurde, ein neues Auto für nur 1 Dollar zu verkaufen.

Der Grund dafür ist, dass dieser Kunde während des Austauschs und der Verhandlungen mit dem Chatbot einen Weg gefunden hat, sich in die Datenbank zu „schleichen“ und den Chatbot davon zu überzeugen, der obigen Anfrage zuzustimmen.

Ein weiteres Beispiel: Ein Hacker konnte erfolgreich alle vertraulichen Dokumente und Organigramme des Unternehmens erlangen, indem er einfach die richtigen Fragen formulierte und sie an den internen KI-Chatbot schickte.

Angesichts dieses Risikos hat Herr Dao Viet Hung eine KI-Sicherheitslösung vorgestellt, mit der KI KI schützen kann. Diese Lösung wird von vielen großen Unternehmen auf der Welt verwendet.

Bei dieser Sicherheitsmethode sind die gespeicherten Daten durch mehrere Schutzebenen geschützt, sodass eine „Infektion“ erschwert wird.

Das KI-Sicherheitssystem kann erkennen, welche Informationen sauber sind und welche Informationen potenzielle Angriffsrisiken bergen, und erstellt daraus einen schnellen und geeigneten Plan zur Handhabung.

Zurück zum Thema

Kindespflicht

Quelle: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm