A főnök ellazul, az alkalmazottak nyugodtan bizalmas adatokat adnak át a mesterséges intelligenciának

(Dan Tri) - Amikor a mesterséges intelligencia beszivárog a munka minden szegletébe, a vállalkozásoknak szembe kell nézniük egy „árnyék MI” nevű, csendben elsöprő adatvédelmet fenyegető „alsó áramlattal”.

A mesterséges intelligencia (MI) alkalmazása a munkavégzésben elkerülhetetlen trenddé vált, segítve a hatékonyság javítását és az időmegtakarítást.

E kényelem mögött azonban potenciális adatbiztonsági kockázatok húzódnak meg, különösen az „árnyék MI” jelensége – amikor az alkalmazottak gondatlanul, kontroll nélkül használják a mesterséges intelligencia eszközeit, véletlenül bizalmas vállalati adatokat juttatva el nyilvános platformokra.

Függőség és kezdeti aggodalmak

Thanh Huyen (21 éves), egy kozmetikai és funkcionális élelmiszereket gyártó vállalat tartalommarketinggel foglalkozó alkalmazottja, elárulta, hogy munkájában 90%-ban a mesterséges intelligenciára támaszkodik, a tervezéstől a tartalomkészítésen át a képek és videók megalkotásáig.

Amikor azonban véletlenül rábukkant egy cikkre, amely hasonló volt ahhoz az ötlethez, amiről a ChatGPT-nek kérdezte, Huyen aggódni kezdett a mesterséges intelligencia azon képessége miatt, hogy megjegyzi és megosztja-e a bemeneti információkat.

A mesterséges intelligencia munkavégzésben való alkalmazása napjainkban szinte alapértelmezetté vált számos iparágban (Fotó: Bao Ngoc).

Bár Huyen története lehet véletlen egybeesés, tagadhatatlan tény, hogy az információszolgáltatás a mesterséges intelligenciának azt jelenti, hogy lehetővé tesszük ezeknek az eszközöknek, hogy adatokat gyűjtsenek és tároljanak a modell betanításához.

A probléma komolyabbá válik, ha a mesterséges intelligencia platformját feltörik vagy rosszul védik, ami információszivárgásokhoz és negatív következményekhez vezet.

„Árnyék MI” – Potenciális Veszély

HM (20 éves), ügyfélszolgálati szakember, rendszeresen megadja az ügyféladatok listáját (teljes név, születési dátum, telefonszám, vásárlási előzmények) a mesterséges intelligencia számára elemzés céljából, időt takarítva meg és javítva a teljesítményt.

M. úgy véli, hogy ez nem jelent potenciális kockázatot, mivel a vállalat kicsi, és az adatokat nem hozzák nyilvánosságra. M. esete azonban tipikus az „árnyék MI” esetére – amikor az alkalmazottak az informatikai vagy kiberbiztonsági osztály jóváhagyása vagy felügyelete nélkül használnak mesterséges intelligenciát.

Az „árnyék MI” jelensége a vállalkozások alkalmazottai általi, bármilyen ellenőrzés vagy irányítás nélküli mesterséges intelligencia használatára utal (Illusztráció: CV).

Egy Cisco-jelentés szerint a vietnami szervezetek 62%-a nem bízik abban, hogy felderítse az alkalmazottak általi szabályozatlan mesterséges intelligencia-használatot. Egy brit felmérés azt is megállapította, hogy a kiberbiztonsági vezetők 75%-a aggódik a belső fenyegetések, például az árnyék-AI miatt.

Ez azt mutatja, hogy az árnyék-MI egyre gyakoribb fenyegetést jelent, különösen akkor, amikor sok vállalkozásnak nincsenek egyértelmű irányelvei a MI használatára vonatkozóan, és az alkalmazottak nincsenek tisztában az adatbiztonsággal.

Fogadj el kompromisszumokat, hogy elkerüld a lemaradást

Annak ellenére, hogy tisztában van a kockázatokkal, Thanh Huyen mégis hajlandó „fogadni” a mesterséges intelligenciára. Úgy véli, hogy a mesterséges intelligencia által nyújtott azonnali előnyök túl nagyok, ami segít neki naponta tucatnyi cikk és ötlet létrehozásában.

A kényelem, a gyorsaság és a teljesítménynövelés lehetősége arra késztette Huyent, hogy érzékeny, bizalmas információkat, sőt felettesei személyes adatait is megosztson a mesterséges intelligencia számára.

A mesterséges intelligencia kontroll nélküli használatának lehetséges kockázatai ellenére sok alkalmazott továbbra is elfogadja a kompromisszumot az azonnali előnyök érdekében (Illusztráció: Önéletrajz).

Hasonlóképpen, Trung Hieu (20 éves), egy tartalommarketinges alkalmazott, szintén rendszeresen belső dokumentumokat és üzleti információkat bocsát a mesterséges intelligencia által működtetett chatbot rendelkezésére.

Hieu jelentős termelékenységnövekedést észlelt, ami versenyelőnyt teremtett, és úgy véli, hogy ez nem befolyásolja túlságosan a vállalat működését.

Ezek az esetek azt mutatják, hogy az árnyék-mesterséges intelligencia terjedése a vállalat egyértelmű irányelveinek hiánya és az alkalmazottak biztonsági, minőségi és függőségi kockázatokkal kapcsolatos nem kellő tudatossága miatt következik be.

Számos kockázattal jár, ha túlságosan megbízunk a mesterséges intelligenciában

Nguyen Viet Hung, egy MI alkalmazásszoftver-fejlesztő cég vezérigazgatója három tényezővel magyarázza az árnyék-MI népszerűségét: a MI segít a gyorsabb és hatékonyabb munkavégzésben; a MI-re való támaszkodás gyorsan kialakul; és a vállalkozások hiányoznak a kockázatokkal kapcsolatos figyelmeztetésekből és képzésekből.

Nguyen Viet Hung úr, egy mesterséges intelligencia alkalmazásszoftver-fejlesztő cég vezérigazgatója (Fotó: Cong Khanh).

A szakértők figyelmeztetnek, hogy az árnyék-AI adatszivárgásokhoz vezethet (ügyfél- és belső oldalról), ha ingyenes MI-eszközökre telepítik.

Ezenkívül a mesterséges intelligencia által generált tartalom minőségét nem ellenőrzik, ami könnyen torzításhoz vezethet és befolyásolhatja az üzleti döntéseket.

Ami még súlyosabb, a mesterséges intelligencia ellenőrizetlen használata biztonsági réseket okozhat, megnehezítve az informatikai rendszerek számára a monitorozást és a gyors reagálást, valamint a felelősség meghatározását incidensek esetén.

A sötét területeket nehéz kontrollálni.

A mesterséges intelligencia segítségével végzett alkalmazottak monitorozása és irányítása hosszú és összehangolt folyamat. A szakértők szerint a belső adatokhoz való hozzáféréssel rendelkező alkalmazottak komoly akadályt jelentenek annak megakadályozásában, hogy személyes adatokat továbbítsanak személyes mesterséges intelligencia eszközökön keresztül.

Továbbá a mesterséges intelligencia eszközei ma már könnyen hozzáférhetők, ami megnehezíti az informatikai részleg számára az észlelésüket vagy kezelésüket.

A mesterséges intelligencia eszközeihez való könnyű hozzáférés az egyik akadály, ami megnehezíti az alkalmazottak által a mesterséges intelligencia platformokon feltöltött információk ellenőrzését (Illusztráció: Önéletrajz).

A helyzet megoldása érdekében Nguyen Viet Hung szakértő azt javasolta, hogy a vállalkozásoknak fokozniuk kell az alkalmazottak képzését a kockázattudatosságról a mesterséges intelligencia használatakor, és mélyebben meg kell érteniük az „árnyék mesterséges intelligenciát”.

Ugyanakkor haladéktalanul ki kell adni a jogszabályokat és a belső szabályzatokat. Egy másik fontos megoldás a vállalat biztonsági képességeinek megerősítése, beleértve a viselkedésfigyelést, az adathozzáférés-vezérlést és az egyes alkalmazottak körültekintő engedélyezését.

Jelenleg sok vállalatnak még mindig nincs egyértelmű folyamata a mesterséges intelligencia használatára, csak a termelékenység növelésére ösztönzik a használatát. Az árnyék-mesterséges intelligencia kezelése érdekében sok nagyvállalat elkezdte belső MI-platformok telepítését, vagy megköveteli az alkalmazottaktól, hogy jóváhagyott eszközöket használjanak egyértelmű információbiztonsági szabályzatokkal.

Forrás: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm