Der Chef entspannt sich, die Mitarbeiter geben der KI ruhig vertrauliche Daten.

(Dan Tri) – Wenn KI in jeden Bereich der Arbeit vordringt, ist es auch an der Zeit, dass Unternehmen sich mit einer „unterschwelligen Strömung“ auseinandersetzen müssen, die stillschweigend die Datenprivatsphäre hinwegfegt und als „Schatten-KI“ bezeichnet wird.

Der Einsatz von künstlicher Intelligenz (KI) in der Arbeitswelt ist zu einem unvermeidlichen Trend geworden, der dazu beiträgt, die Effizienz zu steigern und Zeit zu sparen.

Hinter diesem Komfort verbergen sich jedoch potenzielle Risiken für die Datensicherheit, insbesondere das Phänomen der „Schatten-KI“ – wenn Mitarbeiter KI-Tools unachtsam und unkontrolliert einsetzen und dabei versehentlich vertrauliche Unternehmensdaten auf öffentlichen Plattformen veröffentlichen.

Abhängigkeit und anfängliche Bedenken

Thanh Huyen (21 Jahre), eine Mitarbeiterin im Content-Marketing eines Kosmetik- und Functional-Food-Unternehmens, teilte mit, dass sie sich bei ihrer Arbeit zu bis zu 90 % auf KI verlässt, von der Planung über die Erstellung von Inhalten bis hin zum Design von Bildern und Videos .

Als sie jedoch zufällig auf einen Artikel stieß, der ihrer Idee ähnelte, wandte sie sich an ChatGPT. Daraufhin begann Huyen sich Sorgen um die Fähigkeit von KI zu machen, eingegebene Informationen zu speichern und weiterzugeben.

Der Einsatz von KI in der Arbeitswelt ist in vielen Branchen mittlerweile fast schon Standard (Foto: Bao Ngoc).

Auch wenn Huyens Geschichte ein Zufall sein mag, bleibt die unbestreitbare Tatsache bestehen, dass die Bereitstellung von Informationen für KI bedeutet, diesen Werkzeugen zu erlauben, Daten zu sammeln und zu speichern, um das Modell zu trainieren.

Das Problem wird gravierend, wenn die KI-Plattform gehackt oder unzureichend gesichert wird, was zu Informationslecks und negativen Konsequenzen führt.

„Schatten-KI“ – eine potenzielle Bedrohung

HM (20 Jahre alt), ein Kundendienstspezialist, stellt regelmäßig eine Liste mit Kundeninformationen (vollständiger Name, Geburtsdatum, Telefonnummer, Kaufhistorie) für die KI zur Analyse bereit, wodurch Zeit gespart und die Leistung verbessert wird.

M. glaubt, dass dies kein potenzielles Risiko darstellt, da das Unternehmen klein ist und die Daten nicht offengelegt werden. M.s Fall ist jedoch typisch für „Schatten-KI“ – die Nutzung von KI durch Mitarbeiter ohne Genehmigung oder Aufsicht der IT- oder Cybersicherheitsabteilung.

Das Phänomen der „Schatten-KI“ bezeichnet den Einsatz von KI durch Mitarbeiter in Unternehmen ohne jegliche Kontrolle oder Steuerung (Illustration: CV).

Einem Bericht von Cisco zufolge haben 62 % der Unternehmen in Vietnam wenig Vertrauen in die Fähigkeit, den unregulierten Einsatz von KI durch Mitarbeiter aufzudecken. Eine britische Umfrage ergab zudem, dass 75 % der Cybersicherheitsmanager besorgt über Insiderbedrohungen wie Schatten-KI sind.

Dies zeigt, dass Schatten-KI zu einer weit verbreiteten Bedrohung wird, insbesondere da viele Unternehmen keine klaren Richtlinien für den Einsatz von KI haben und den Mitarbeitern das Bewusstsein für Datensicherheit fehlt.

Akzeptiere Kompromisse, um nicht abgehängt zu werden.

Obwohl Thanh Huyen sich der Risiken bewusst ist, setzt sie dennoch auf KI. Sie ist überzeugt, dass die unmittelbaren Vorteile der KI zu groß sind und ihr helfen, täglich Dutzende von Artikeln und Ideen zu produzieren.

Die Bequemlichkeit, die Geschwindigkeit und die Möglichkeit zur Leistungssteigerung haben Huyen dazu bewogen, sensible und vertrauliche Informationen an die KI weiterzugeben, sogar persönliche Daten ihrer Vorgesetzten.

Trotz der potenziellen Risiken eines unkontrollierten KI-Einsatzes nehmen viele Arbeitnehmer diesen Kompromiss für unmittelbare Vorteile in Kauf (Illustration: CV).

Auch Trung Hieu (20 Jahre), ein Mitarbeiter im Content-Marketing, stellt dem KI-Chatbot regelmäßig interne Dokumente und Geschäftsinformationen zur Verfügung.

Hieu bemerkte einen deutlichen Produktivitätsanstieg, der einen Wettbewerbsvorteil schuf, und glaubte, dass dies die Geschäftstätigkeit des Unternehmens nicht allzu sehr beeinträchtigte.

Diese Fälle zeigen, dass sich Schatten-KI aufgrund fehlender klarer Unternehmensrichtlinien und unzureichenden Bewusstseins der Mitarbeiter hinsichtlich Sicherheitsrisiken, Qualität und Abhängigkeit ausbreitet.

Eine Reihe von Risiken, die entstehen, wenn man KI zu sehr vertraut.

Herr Nguyen Viet Hung, CEO eines Softwareentwicklungsunternehmens für KI-Anwendungen, erklärt die Popularität von Schatten-KI mit drei Faktoren: KI hilft dabei, schneller und effizienter zu arbeiten; die Gewohnheit, sich auf KI zu verlassen, entwickelt sich schnell; und Unternehmen werden nicht ausreichend über die Risiken aufgeklärt und geschult.

Herr Nguyen Viet Hung, CEO eines Softwareentwicklungsunternehmens für KI-Anwendungen (Foto: Cong Khanh).

Experten warnen davor, dass Schatten-KI zu Datenlecks (Kundendaten, interne Daten) führen kann, wenn sie auf kostenlosen KI-Tools eingesetzt wird.

Darüber hinaus ist die Qualität von KI-generierten Inhalten nicht überprüft und kann leicht zu Verzerrungen führen, die sich auf Geschäftsentscheidungen auswirken.

Schwerwiegender ist jedoch, dass der unkontrollierte Einsatz von KI Sicherheitslücken schaffen kann, die es IT-Systemen erschweren, zu überwachen und zeitnah zu reagieren, und die es schwierig machen, die Verantwortlichkeit bei Vorfällen festzustellen.

Dunkle Bereiche sind schwer zu kontrollieren.

Die Überwachung und Steuerung von Mitarbeitern mithilfe von KI ist ein langwieriger und koordinierungsbedürftiger Prozess. Experten weisen darauf hin, dass der Zugriff von Mitarbeitern auf interne Daten ein großes Hindernis darstellt, um zu verhindern, dass sie private Daten über persönliche KI-Tools weitergeben.

Darüber hinaus sind KI-Tools mittlerweile leicht zugänglich, was es der IT erschwert, sie zu erkennen oder zu verwalten.

Der einfache Zugang zu KI-Tools ist eine der Hürden, die es schwieriger machen, die Informationen zu kontrollieren, die Mitarbeiter auf KI-Plattformen veröffentlichen (Illustration: Lebenslauf).

Um dem entgegenzuwirken, schlug der Experte Nguyen Viet Hung vor, dass Unternehmen die Schulung ihrer Mitarbeiter im Hinblick auf das Risikobewusstsein beim Einsatz von KI verstärken und ein tieferes Verständnis von „Schatten-KI“ erlangen müssen.

Gleichzeitig sollten umgehend rechtliche Bestimmungen und interne Richtlinien erlassen werden. Eine weitere wichtige Lösung besteht darin, die Sicherheitsvorkehrungen im Unternehmen zu stärken, einschließlich Verhaltensüberwachung, Datenzugriffskontrolle und sorgfältiger Autorisierung jedes einzelnen Mitarbeiters.

Aktuell verfügen viele Unternehmen noch immer nicht über einen klaren Prozess für den Einsatz von KI und fördern deren Nutzung lediglich zur Produktivitätssteigerung. Um Schatten-KI entgegenzuwirken, haben viele große Unternehmen begonnen, interne KI-Plattformen einzuführen oder ihre Mitarbeiter zur Nutzung genehmigter Tools mit klaren Informationssicherheitsrichtlinien zu verpflichten.

Quelle: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm