A főnök ellazul, az alkalmazottak nyugodtan bizalmas adatokat adnak át a mesterséges intelligenciának

(Dan Tri) - Amikor a mesterséges intelligencia a munka minden szegletébe behatol, a vállalkozásoknak szembe kell nézniük egy „árnyék MI” nevű, csendben elsöprő adatvédelmi „alsó áramlattal”, amely az adatvédelmet is fenyegeti.

A mesterséges intelligencia (MI) alkalmazása a munkavégzésben elkerülhetetlen trenddé vált, segítve a hatékonyság javítását és az időmegtakarítást.

E kényelem mögött azonban potenciális adatbiztonsági kockázatok húzódnak meg, különösen az „árnyék MI” jelensége – amikor az alkalmazottak gondatlanul és kontroll nélkül használják a MI-eszközöket, véletlenül nyilvános platformokra juttatva el a vállalat bizalmas adatait.

Függőség és kezdeti aggodalmak

Thanh Huyen (21 éves), egy kozmetikai és funkcionális élelmiszereket gyártó vállalat tartalommarketinggel foglalkozó alkalmazottja, megosztotta, hogy munkájában akár 90%-ban a mesterséges intelligenciára támaszkodik, a tervezéstől a tartalomkészítésen át a képek és videók megalkotásáig.

Amikor azonban véletlenül rábukkant egy cikkre, amely hasonló volt a ChatGPT-nek feltett ötlethez, Huyen aggódni kezdett a mesterséges intelligencia azon képessége miatt, hogy megjegyzi és megosztja-e a bemeneti információkat.

A mesterséges intelligencia munkavégzésben való alkalmazása napjainkban szinte alapértelmezett gyakorlattá vált számos iparágban (Fotó: Bao Ngoc).

Bár Huyen története lehet véletlen egybeesés, tagadhatatlan tény, hogy az információszolgáltatás a mesterséges intelligenciának azt jelenti, hogy lehetővé tesszük ezeknek az eszközöknek, hogy adatokat gyűjtsenek és tároljanak a modell betanításához.

A probléma komolyabbá válik, ha a mesterséges intelligencia platformját feltörik vagy rosszul védik, ami információszivárgásokhoz és negatív következményekhez vezet.

„Árnyék MI” – Potenciális fenyegetés

HM (20 éves), ügyfélszolgálati szakember, rendszeresen megadja az ügyféladatok listáját (teljes név, születési dátum, telefonszám, vásárlási előzmények) a mesterséges intelligencia számára elemzés céljából, időt takarítva meg és javítva a teljesítményt.

M. úgy véli, hogy ez nem jelent potenciális kockázatot, mivel a vállalat kicsi, és az adatokat nem hozzák nyilvánosságra. M. esete azonban tipikus az „árnyék MI” esetére – amikor az alkalmazottak az informatikai vagy kiberbiztonsági osztály jóváhagyása vagy felügyelete nélkül használnak mesterséges intelligenciát.

Az „árnyék MI” jelensége a vállalkozások alkalmazottai általi, bármilyen ellenőrzés vagy irányítás nélküli mesterséges intelligencia használatára utal (Illusztráció: CV).

Egy Cisco-jelentés szerint a vietnami szervezetek 62%-a nem bízik abban, hogy felderítse az alkalmazottak általi szabályozatlan mesterséges intelligencia-használatot. Egy brit felmérés azt is megállapította, hogy a kiberbiztonsági vezetők 75%-a aggódik a belső fenyegetések, például az árnyék-AI miatt.

Ez azt mutatja, hogy az árnyék-MI egyre gyakoribb fenyegetést jelent, különösen akkor, amikor sok vállalkozásnak nincsenek egyértelmű irányelvei a MI használatára vonatkozóan, és az alkalmazottak nincsenek tisztában az adatbiztonsággal.

Fogadj el kompromisszumokat, hogy elkerüld a lemaradást

Annak ellenére, hogy tisztában van a kockázatokkal, Thanh Huyen mégis hajlandó „fogadni” a mesterséges intelligenciára. Úgy véli, hogy a mesterséges intelligencia által nyújtott azonnali előnyök túl nagyok, ami segít neki naponta tucatnyi cikk és ötlet létrehozásában.

A kényelem, a gyorsaság és a teljesítménynövelés lehetősége arra késztette Huyent, hogy érzékeny, bizalmas információkat, sőt felettesei személyes adatait is megosztson a mesterséges intelligencia számára.

A mesterséges intelligencia kontroll nélküli használatának lehetséges kockázatai ellenére sok alkalmazott továbbra is elfogadja a kompromisszumot az azonnali előnyök érdekében (Illusztráció: Önéletrajz).

Hasonlóképpen, Trung Hieu (20 éves), egy tartalommarketinges alkalmazott, szintén rendszeresen belső dokumentumokat és üzleti információkat bocsát a mesterséges intelligencia által működtetett chatbot rendelkezésére.

Hieu jelentős termelékenységnövekedést észlelt, ami versenyelőnyt teremtett, és úgy vélte, hogy ez nem befolyásolja túlságosan a vállalat működését.

Ezek az esetek azt mutatják, hogy az árnyék-mesterséges intelligencia terjedése a vállalat egyértelmű irányelveinek hiánya, valamint az alkalmazottak biztonsági kockázatokkal, minőséggel és függőséggel kapcsolatos nem kellő tudatossága miatt következik be.

Számos kockázattal jár, ha túlságosan megbízunk a mesterséges intelligenciában

Nguyen Viet Hung, egy MI alkalmazásszoftver-fejlesztő cég vezérigazgatója három tényezővel magyarázza az árnyék-MI népszerűségét: a MI segít a gyorsabb és hatékonyabb munkavégzésben; a MI-re való támaszkodás gyorsan kialakul; és a vállalkozások hiányoznak a kockázatokkal kapcsolatos figyelmeztetésekből és képzésekből.

Nguyen Viet Hung úr, egy mesterséges intelligencia alkalmazásszoftver-fejlesztő cég vezérigazgatója (Fotó: Cong Khanh).

A szakértők figyelmeztetnek, hogy az árnyék-AI adatszivárgásokhoz vezethet (ügyfél- és belső oldalról), ha ingyenes MI-eszközökre telepítik.

Ezenkívül a mesterséges intelligencia által generált tartalom minősége nincs ellenőrizve, és könnyen torzításhoz vezethet, ami befolyásolja az üzleti döntéseket.

Ami még súlyosabb, a mesterséges intelligencia ellenőrizetlen használata biztonsági réseket okozhat, megnehezítve az informatikai rendszerek számára a monitorozást és a gyors reagálást, valamint a felelősség meghatározását incidensek esetén.

A sötét területeket nehéz kontrollálni.

A mesterséges intelligencia segítségével végzett alkalmazottak monitorozása és irányítása hosszú folyamat, amely koordinációt igényel. A szakértők szerint a belső adatokhoz való hozzáféréssel rendelkező alkalmazottak komoly akadályt jelentenek annak megakadályozásában, hogy személyes adatokat továbbítsanak személyes mesterséges intelligencia eszközökön keresztül.

Továbbá a mesterséges intelligencia eszközei ma már könnyen hozzáférhetők, ami megnehezíti az informatikai részleg számára az észlelésüket vagy kezelésüket.

A mesterséges intelligencia eszközeihez való könnyű hozzáférés az egyik akadály, ami megnehezíti az alkalmazottak által a mesterséges intelligencia platformokon feltöltött információk ellenőrzését (illusztráció: Önéletrajz).

A helyzet megoldása érdekében Nguyen Viet Hung szakértő azt javasolta, hogy a vállalkozásoknak fokozniuk kell az alkalmazottak képzését a kockázattudatosságról a mesterséges intelligencia használatakor, és mélyebben meg kell érteniük az „árnyék mesterséges intelligenciát”.

Ugyanakkor haladéktalanul ki kell adni a jogszabályokat és a belső szabályzatokat. Egy másik fontos megoldás a vállalat biztonsági képességeinek megerősítése, beleértve a viselkedésfigyelést, az adathozzáférés-ellenőrzést és az egyes alkalmazottak körültekintő engedélyezését.

Jelenleg sok vállalatnak még mindig nincs egyértelmű folyamata a mesterséges intelligencia használatára, csak a termelékenység növelésére ösztönzik a használatát. Az árnyék-mesterséges intelligenciával való megbirkózás érdekében sok nagyvállalat elkezdte belső MI-platformok telepítését, vagy megköveteli az alkalmazottaktól, hogy jóváhagyott eszközöket használjanak egyértelmű információbiztonsági szabályzatokkal.

Forrás: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm