Chefen slappnar av, anställda ger lugnt konfidentiell data till AI

(Dan Tri) – När AI infiltrerar varje hörn av arbetet är det också en tid då företag måste möta en "underström" som i tysthet sopar bort dataskyddet som kallas "Shadow AI".

Att tillämpa artificiell intelligens (AI) i arbetet har blivit en oundviklig trend, vilket bidrar till att förbättra effektiviteten och spara tid.

Bakom den bekvämligheten finns dock potentiella risker för datasäkerheten, särskilt fenomenet "Shadow AI" – när anställda använder AI-verktyg slarvigt, utan kontroll, och av misstag lägger ut konfidentiell företagsdata på offentliga plattformar.

Beroende och initiala farhågor

Thanh Huyen (21 år), en innehållsmarknadsföringsanställd på ett kosmetika- och funktionella livsmedelsföretag, berättade att hon förlitar sig på AI till 90 % i sitt arbete, från planering och innehållsskapande till design av bilder och videor .

Men när hon av misstag stötte på en artikel som liknade den hon frågade ChatGPT om, började Huyen oroa sig för AI:s förmåga att komma ihåg och dela inmatad information.

Att tillämpa AI i arbetet har nästan blivit standard för många branscher för närvarande (Foto: Bao Ngoc).

Även om Huyens historia kan vara en slump, är det obestridliga faktum att förse AI med information innebär att dessa verktyg kan samla in och lagra data för att träna modellen.

Problemet blir allvarligt om AI-plattformen hackas eller är dåligt säkrad, vilket leder till informationsläckor och negativa konsekvenser.

"Shadow AI" – en potentiell fara

HM (20 år), en kundtjänstspecialist, tillhandahåller regelbundet en lista med kundinformation (fullständigt namn, födelsedatum, telefonnummer, köphistorik) till AI för analys, vilket sparar tid och förbättrar prestanda.

M. anser att detta inte är en potentiell risk eftersom företaget är litet och uppgifterna inte kommer att lämnas ut. M:s fall är dock typiskt för "Shadow AI" – användning av AI av anställda utan godkännande eller övervakning av IT- eller cybersäkerhetsavdelningen.

Fenomenet ”Shadow AI” syftar på användningen av AI av anställda i företag utan någon kontroll eller ledning (Illustration: CV).

En rapport från Cisco visade att 62 % av organisationerna i Vietnam saknar förtroende för att upptäcka oreglerad användning av AI av anställda. En brittisk undersökning visade också att 75 % av cybersäkerhetschefer är oroade över insiderhot som skugg-AI.

Detta visar att skugg-AI håller på att bli ett vanligt hot, särskilt när många företag inte har tydliga policyer för AI-användning och anställda saknar medvetenhet om datasäkerhet.

Acceptera avvägningar för att undvika att bli lämnad utanför

Trots att hon är medveten om riskerna accepterar Thanh Huyen fortfarande att "satsa" på AI. Hon anser att de omedelbara fördelarna som AI medför är för stora, vilket hjälper henne att producera dussintals artiklar och idéer varje dag.

Bekvämligheten, hastigheten och möjligheten att öka prestandan har gjort Huyen villig att lämna ut känslig, konfidentiell information till AI, till och med sina överordnades personliga information.

Trots de potentiella riskerna med att använda AI utan kontroll accepterar många anställda fortfarande avvägningen för omedelbara fördelar (Illustration: CV).

På liknande sätt tillhandahåller Trung Hieu (20 år), en anställd inom innehållsmarknadsföring, regelbundet interna dokument och affärsinformation till AI-chatbotar.

Hieu noterade en betydande ökning av produktiviteten, vilket skapade en konkurrensfördel och anser att detta inte påverkar företagets verksamhet alltför mycket.

Dessa fall visar att skugg-AI sprids på grund av brist på tydliga policyer från företaget och otillräcklig medvetenhet bland anställda om säkerhets-, kvalitets- och beroenderisker.

En rad risker med att lita för mycket på AI

Herr Nguyen Viet Hung, VD för ett företag som utvecklar AI-applikationsprogram, förklarar populariteten för Shadow AI med tre faktorer: AI hjälper till att arbeta snabbare och mer effektivt; vanan att snabbt förlita sig på AI-formulär; och företag saknar varningar och utbildning om risker.

Herr Nguyen Viet Hung, VD för ett företag som utvecklar AI-applikationsprogram (Foto: Cong Khanh).

Experter varnar för att skugg-AI kan leda till dataläckor (kund-, interna) när den används på gratis AI-verktyg.

Dessutom verifieras inte kvaliteten på AI-genererat innehåll, vilket lätt kan leda till partiskhet och påverka affärsbeslut.

Ännu allvarligare är att okontrollerad användning av AI kan skapa säkerhetsbrister, vilket gör det svårt för IT-system att övervaka och reagera snabbt, och gör det svårt att fastställa ansvar när incidenter inträffar.

Mörka områden är svåra att kontrollera.

Att övervaka och hantera anställda med hjälp av AI är en lång och samordnad process. Experter säger att anställdas tillgång till intern data utgör ett stort hinder för att hindra dem från att lämna ut privata data via personliga AI-verktyg.

Dessutom är AI-verktyg nu lättillgängliga, vilket gör dem svåra för IT-avdelningen att upptäcka eller hantera.

Enkel åtkomst till AI-verktyg är ett av hindren som gör det svårare att kontrollera den information som anställda lägger på AI-plattformar (Illustration: CV).

För att hantera detta föreslog experten Nguyen Viet Hung att företag behöver öka sin utbildning av anställda i riskmedvetenhet vid användning av AI och få en djupare förståelse för "Shadow AI".

Samtidigt, utfärda omedelbart lagar och interna policyer. En annan viktig lösning är att stärka säkerhetskapaciteten i företaget, inklusive beteendeövervakning, kontroll av dataåtkomst och noggrann auktorisering för varje anställd.

För närvarande saknar många företag fortfarande en tydlig process för att använda AI, utan uppmuntrar bara dess användning för att öka produktiviteten. För att hantera skugg-AI har många stora företag börjat driftsätta interna AI-plattformar eller kräva att anställda använder godkända verktyg med tydliga informationssäkerhetspolicyer.

Källa: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm