Patron rahatlıyor, çalışanlar sakin bir şekilde gizli verileri yapay zekaya veriyor

(Dan Tri) - Yapay zeka iş dünyasının her köşesine sızdığında, işletmeler aynı zamanda "Gölge Yapay Zeka" adı verilen ve veri gizliliğini sessizce ortadan kaldıran bir "gizli akım" ile karşı karşıya kalıyor.

Yapay Zeka'nın (YZ) işe uygulanması, verimliliği artırmaya ve zamandan tasarruf sağlamaya yardımcı olan kaçınılmaz bir trend haline geldi.

Ancak bu kolaylığın arkasında, özellikle çalışanların yapay zeka araçlarını dikkatsizce, kontrolsüzce kullanarak gizli şirket verilerini yanlışlıkla kamuya açık platformlara koyması sonucu ortaya çıkan "Gölge Yapay Zeka" olgusu olmak üzere, veri güvenliği açısından potansiyel riskler yatıyor.

Bağımlılık ve ilk endişeler

Kozmetik ve fonksiyonel gıda firmasında İçerik Pazarlama çalışanı olan 21 yaşındaki Thanh Huyen, planlamadan, içerik oluşturmaya, görsel ve video tasarlamaya kadar işinde %90 oranında yapay zekaya güvendiğini paylaştı.

Ancak Huyen, ChatGPT'ye sorduğu fikre benzer bir makaleye yanlışlıkla rastlayınca, yapay zekanın girdi bilgilerini hatırlama ve paylaşma yeteneği konusunda endişelenmeye başladı.

Yapay zekayı işe uygulamak artık pek çok sektör için neredeyse bir varsayılan haline geldi (Fotoğraf: Bao Ngoc).

Huyen'in hikayesi bir tesadüf olabilir ancak yadsınamaz bir gerçek var ki, yapay zekaya bilgi sağlamak, bu araçların modeli eğitmek için veri toplamasına ve depolamasına izin vermek anlamına geliyor.

Yapay zeka platformunun hacklenmesi veya güvenliğinin yetersiz olması durumunda sorun ciddileşiyor ve bilgi sızıntılarına ve olumsuz sonuçlara yol açıyor.

"Gölge Yapay Zeka" - Potansiyel Bir Tehlike

Müşteri hizmetleri uzmanı olan HM (20 yaşında), düzenli olarak yapay zekaya analiz için müşteri bilgilerini (tam ad, doğum tarihi, telefon numarası, satın alma geçmişi) sağlıyor, bu da zamandan tasarruf sağlıyor ve performansı artırıyor.

M., şirketin küçük olması ve verilerin ifşa edilmemesi nedeniyle bunun potansiyel bir risk olmadığına inanıyor. Ancak M.'nin durumu, çalışanların bilgi teknolojileri veya siber güvenlik departmanının onayı veya denetimi olmadan yapay zeka kullanması anlamına gelen "Gölge Yapay Zeka"nın tipik bir örneği.

“Gölge Yapay Zeka” olgusu, işletmelerde çalışanların herhangi bir kontrol veya yönetim olmaksızın yapay zekayı kullanması anlamına geliyor (İllüstrasyon: CV).

Cisco'nun bir raporu, Vietnam'daki kuruluşların %62'sinin çalışanlar tarafından yapay zekanın denetimsiz kullanımını tespit etme konusunda güven eksikliği yaşadığını ortaya koydu. Birleşik Krallık'ta yapılan bir anket ise siber güvenlik yöneticilerinin %75'inin Gölge Yapay Zeka gibi içeriden gelen tehditlerden endişe duyduğunu ortaya koydu.

Bu durum, özellikle birçok işletmenin yapay zeka kullanımına ilişkin net politikalarının olmadığı ve çalışanların veri güvenliği konusunda farkındalıklarının düşük olduğu bir ortamda, Gölge Yapay Zeka'nın yaygın bir tehdit haline geldiğini göstermektedir.

Geride kalmamak için uzlaşmaları kabul edin

Thanh Huyen, risklerin farkında olmasına rağmen yapay zekaya "bahis" açmayı kabul ediyor. Yapay zekanın sağladığı anlık faydaların çok büyük olduğuna inanıyor ve bu sayede her gün onlarca makale ve fikir üretiyor.

Kolaylık, hız ve performansı artırma yeteneği, Huyen'i hassas ve gizli bilgileri, hatta üstlerinin kişisel bilgilerini bile yapay zekaya vermeye istekli hale getirdi.

Yapay zekayı kontrolsüz kullanmanın potansiyel risklerine rağmen, birçok çalışan hala anında elde edilen faydalar için bu seçeneği tercih ediyor (İllüstrasyon: CV).

Benzer şekilde, İçerik Pazarlama çalışanı Trung Hieu (20 yaşında) da düzenli olarak AI chatbot'a dahili belgeler ve iş bilgileri sağlıyor.

Hieu, verimlilikte önemli bir artış olduğunu, bunun da rekabet avantajı yarattığını ve bunun şirketin operasyonlarını çok fazla etkilemediğine inanıyor.

Bu vakalar, Gölge Yapay Zeka'nın şirkette net politikaların olmaması ve çalışanların güvenlik, kalite ve bağımlılık riskleri konusunda yeterince bilinçlendirilmemesi nedeniyle yayıldığını gösteriyor.

Yapay zekaya çok fazla güvenmenin bir dizi riski var

Yapay zeka uygulama yazılımı geliştirme şirketinin CEO'su Bay Nguyen Viet Hung, Gölge Yapay Zeka'nın popülerliğini üç faktöre bağlıyor: Yapay zeka daha hızlı ve daha verimli çalışmaya yardımcı oluyor; yapay zekaya bağımlı olma alışkanlığı hızla oluşuyor; ve işletmeler riskler konusunda uyarı ve eğitim eksikliği yaşıyor.

Yapay zeka uygulama yazılımı geliştirme şirketinin CEO'su Bay Nguyen Viet Hung (Fotoğraf: Cong Khanh).

Uzmanlar, Shadow AI'nın ücretsiz AI araçlarına uygulandığında veri sızıntılarına (müşteri, şirket içi) yol açabileceği konusunda uyarıyor.

Ayrıca, yapay zeka tarafından üretilen içeriklerin kalitesi doğrulanmadığından, bu durum kolayca önyargıya yol açabilir ve iş kararlarını etkileyebilir.

Daha da ciddisi, yapay zekanın kontrolsüz kullanımı güvenlik açıkları yaratabilir, BT sistemlerinin izleme yapmasını ve hızlı bir şekilde yanıt vermesini zorlaştırabilir ve olaylar meydana geldiğinde sorumluluğun belirlenmesini zorlaştırabilir.

Karanlık alanların kontrolü zordur.

Yapay zeka kullanarak çalışanların izlenmesi ve yönetilmesi uzun ve koordineli bir süreçtir. Uzmanlar, çalışanların şirket içi verilere erişiminin, özel verilerin kişisel yapay zeka araçları aracılığıyla aktarılmasını engellemede büyük bir engel teşkil ettiğini söylüyor.

Ayrıca, yapay zeka araçlarına artık kolayca ulaşılabiliyor ve bu da BT'nin bunları tespit etmesini veya yönetmesini zorlaştırıyor.

Yapay zeka araçlarına kolay erişim, çalışanların yapay zeka platformlarına yükledikleri bilgileri kontrol etmeyi zorlaştıran engellerden biridir (İllüstrasyon: CV).

Uzman Nguyen Viet Hung, işletmelerin yapay zeka kullanırken risk farkındalığı konusunda çalışan eğitimlerini artırmaları ve "Gölge Yapay Zeka" konusunda daha derin bir anlayış kazanmaları gerektiğini öne sürdü.

Aynı zamanda, yasal düzenlemeleri ve iç politikaları derhal yayınlayın. Bir diğer önemli çözüm ise, davranış izleme, veri erişim kontrolü ve her çalışan için dikkatli yetkilendirme gibi kurum içi güvenlik yeteneklerini güçlendirmektir.

Şu anda birçok şirket, yapay zekayı kullanmak için net bir sürece sahip değil ve yalnızca üretkenliği artırmak için kullanımını teşvik ediyor. Gölge yapay zeka ile başa çıkmak için birçok büyük işletme, şirket içi yapay zeka platformları kullanmaya veya çalışanlarının net bilgi güvenliği politikalarına sahip onaylı araçlar kullanmasını zorunlu kılmaya başladı.

Kaynak: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm