Hacker können streng geheime Firmeninformationen erlangen, indem sie sich einem KI-Chatbot anvertrauen.

Technologieexperten zufolge können Hacker durch den Einsatz einer Reihe ausgeklügelter Befehle in die „vertrauliche“ Datenbank eines Unternehmens eindringen, ohne entdeckt zu werden.

Überblick über die Veranstaltung „OpenInfra & Cloud Native Day Vietnam 2025“ zum Thema „Vietnams digitales Durchbruchzeitalter“ – Foto: CHI HIEU

Künstliche Intelligenz (KI) bietet viele Vorteile, insbesondere da sie mittlerweile von vielen Unternehmen zur Unterstützung von Endnutzern wie Mitarbeitern und Kunden eingesetzt wird. Von hier aus können KI-integrierte Chatbot-Systeme zu einer Art „Türöffner“ für Hacker werden, die so Datenspeichersysteme angreifen und Informationen stehlen können.

„Derzeit gibt es viele Methoden, KI-Modelle anzugreifen, die häufigste davon ist das ‚Content Poisoning‘, das für traditionelle Informationsschutzsysteme ‚unsichtbar‘ zu sein scheint“, warnte Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam, auf der Veranstaltung OpenInfra & Cloud Native Day Vietnam 2025, die am 26. Juli in Hanoi stattfand.

Die Veranstaltung wurde von der Vietnam Internet Association (VIA) in Zusammenarbeit mit der Vietnam Open Infrastructure Community (VietOpenInfra), dem Vietnam Cloud Computing and Data Center Club (VNCDC) und mit Unterstützung des Ministeriums für Wissenschaft und Technologie organisiert.

90 % der Unternehmen nutzen offene Plattformen oder Software.

In seiner Eröffnungsrede betonte Herr Vu The Binh – Vizepräsident und Generalsekretär der Vietnam Internet Association – die Bedeutung offener Infrastruktur und Open-Source-Code im nationalen digitalen Transformationsprozess.

Angesichts der rasanten Veränderungen in der globalen Technologie sagte Herr Binh, dass sich die offene Infrastruktur weiterhin als Grundlage für Innovationen entwickle, da mehr als 90 % der Unternehmen offene Plattformen oder Software in vielfältiger Form nutzen.

Laut einer Red Hat-Umfrage (2024) sehen 82 % der Technologieführer offene Plattformen und Software als Schlüssel zur digitalen Transformation und zur Beschleunigung von Innovationen. Plattformen wie Kubernetes, OpenStack, Linux, Ceph und OpenTelemetry spielen eine zunehmend wichtige Rolle beim Betrieb von KI-, IoT-, 5G/6G-Systemen sowie Cloud-nativen Anwendungen.

„Vor zehn Jahren hätte man Cloud mit Wolken am Himmel verwechseln können, und Open Source klang wie ein Geheimnis aus der Kampfkunst. Doch heute sind wir hier, vernetzt mit der globalen Open-Infrastructure-Community in über 180 Ländern, und gemeinsam machen wir Codezeilen zur treibenden Kraft für Innovationen“, erklärte Herr Vu The Binh.

KI-Chatbot – „schmale Tür“ für Hacker, um in das System einzudringen

„Viele Unternehmen setzen derzeit verstärkt auf die Effektivität offener, reaktionsschneller Plattformen, die Systeme wie KI-Chatbots integrieren, um die Arbeitsleistung zu verbessern und das Benutzererlebnis zu optimieren.“

Von hier aus gehen auch viele Angriffsmethoden auf KI-Modelle ein, darunter sogenannte „Content Poisoning“-Angriffe, warnte Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam.

Er merkte an, dass vietnamesische Unternehmen bei der Einführung von KI noch immer nicht viel über diese Art von Angriff wissen.

Demzufolge wenden böswillige Akteure die Methode an, das KI-Modell kontinuierlich mit falschen Informationen zu füttern und diese immer wieder neu zu lehren, was zu einer "Informationsvergiftung" führt.

Wenn die Informationen im Cloud-System "infiziert" wurden, dies aber nicht erkannt wird und weiterhin genutzt werden, liefern sie entweder falsche Informationen oder nutzen diese Schwachstelle aus, um sich unbemerkt Zugang zur Datenbank zu verschaffen und Informationen zu erlangen.

Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam – Foto: CHI HIEU

Herr Dao Viet Hung erzählte von einer seltenen Geschichte, in der das Online-Verkaufs-Chatbot-System eines Automobilherstellers dazu gebracht wurde, ein neues Auto für nur 1 Dollar zu verkaufen.

Der Grund dafür ist, dass dieser Kunde während des Austauschs und der Verhandlung mit dem Chatbot einen Weg gefunden hat, sich in die Datenbank einzuschleichen und den Chatbot davon zu überzeugen, der oben genannten Anfrage zuzustimmen.

Ein weiteres Beispiel ist der Fall, als ein Hacker erfolgreich alle vertraulichen Dokumente und Organigramme des Unternehmens erlangte, indem er einfach die richtigen Fragen formulierte und sie an den internen KI-Chatbot schickte.

Ausgehend von diesem Risiko teilte Herr Dao Viet Hung die KI-Sicherheitslösung, damit KI sich selbst schützen kann; dies ist eine Methode, die von vielen großen Unternehmen weltweit angewendet wird.

Bei dieser Sicherheitsmethode werden die gespeicherten Daten auf mehreren Ebenen geschützt, wodurch eine „Infektion“ erschwert wird.

Das KI-Sicherheitssystem kann erkennen, welche Informationen sicher sind und welche ein potenzielles Angriffsrisiko bergen, und daraufhin einen schnellen und angemessenen Maßnahmenplan erstellen...

Zurück zum Thema

Kindliche Pietät

Quelle: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm