Yapay zekanın kötüye kullanımı veri güvenliğini tehlikeye atabilir.

Yapay zekâ (YZ) devrimi, özellikle OpenAI'nin ChatGPT'yi piyasaya sürmesinin ardından 2022'nin sonlarından itibaren patlama yaşadı. Kısa süre sonra, büyük teknoloji şirketleri de Microsoft'un Copilot ve Bing'i ile Google'ın Gemini'si gibi diğer YZ araçlarını piyasaya sürerek YZ'nin kullanışlılığını daha da artırdı. Bu araçlar, kod yazmaktan veri analizine ve kısa sürede bilgi sentezlemeye kadar her konuda yardımcı olabiliyor. Bu durum, birçok kullanıcının YZ'ye olan ilgisini artırdı.

Hem kullanırken hem de endişeleniyorum.

Ho Chi Minh Şehri, Binh Thanh Bölgesi'nde ofis çalışanı olan Bay Nguyen Hoai Sang, yapay zeka yazılımını kullanmaya başladığından beri, Google Meet ve Zoom platformları üzerinden iş raporları hazırlama, bilgi derleme ve şirket içi veya müşteri toplantılarından not alma işlemlerinde manuel yöntemlere kıyasla %40-50 oranında zaman tasarrufu sağladığını söyledi. Ancak, yapay zeka araçlarını indirdikten sonra bilgisayarının 1-2 dakika donduğunu ve performansının da öncesine göre düştüğünü fark etti.

"ChatGPT, Copilot ve Gemini'nin yanı sıra, Google Chrome uzantı mağazasını aradım ve Sider, SearchGPT ve Tactiq gibi birkaç yapay zeka aracı yükledim. O zamandan beri bilgisayarım yavaşlıyor. Örneğin, Word dosyalarında yazı yazmak artık akıcı değil ve piyasadaki iyi bir dizüstü bilgisayar olmasına rağmen, basit uygulamaları açmak normalden 5-7 saniye daha uzun sürüyor. Sonuç olarak, işim bazen kesintiye uğruyor, dikkatimi dağıtıyor ve hayal kırıklığına neden oluyor. Ama beni endişelendiren şey, bunun bir virüs bulaşması ve yapay zekanın cihaza sızarak veri çalmasından kaynaklanıp kaynaklanmadığı?" - Bay Sang endişesini dile getirdi.

Bu arada, Ho Chi Minh şehrinde esas görevi işletmelerdeki dahili sistem hatalarını gidermek olan bir BT çalışanı olan Bay Xuan Thanh, yapay zekanın işine büyük ölçüde yardımcı olduğuna ve hataları hızlı bir şekilde çözmek için yalnızca açıklamalar ve kod yazmaya ihtiyaç duyduğuna inanıyor. Bununla birlikte, yapay zekanın güvenlik açısından doğuracağı sonuçlar konusunda da endişeli.

"Yapay zekanın acil kullanımını gerektiren bazı görevler var, bu yüzden onu uygulamak zorunda kalıyorum. Ancak yine de bazı yapay zeka yazılımlarının sahiplerinin, etkileşimler sırasında toplanan verileri ve yapay zekaya verilen soruları kullanarak kullanıcı sistemlerine sızabileceğinden endişeliyim. Ya da yapay zeka kullanıcılar tarafından sağlanan verileri topladığında, kötü niyetli kişiler bu veriler hakkında soru sorabilir ve yapay zeka bu bilgileri verebilir mi? Henüz bununla ilgili herhangi bir olay yaşanmamış olsa da, yapay zekanın güvenliği konusunda hala emin değilim," dedi Bay Thanh şüpheyle.

Yapay zekâ yazılımları bilgisayar arızalarına neden olabilir.

Yapay zekâ ürünlerini indirirken dikkatli olun.

Vietnam Ulusal Siber Güvenlik Acil Durum Müdahale Merkezi (VNCERT) Müdür Yardımcısı Bay Nguyen Huu Nguyen'e göre, yapay zeka yazılımı indirildikten sonra bilgisayarda yaşanan yavaşlama ve performans düşüşü, yapay zeka yazılımının karmaşık özelliklerinin büyük miktarda sistem kaynağı tüketmesinden kaynaklanıyor olabilir ve mutlaka bir virüsten kaynaklanmayabilir.

Ancak Bay Nguyen'e göre, kullanıcılar güvenilir olmayan kaynaklardan yapay zekâ yazılımları indirirken dikkatli olmalıdır, çünkü bu yazılımlar sisteme sızmak için kötü amaçlı yazılım içerebilir. Kullanıcılar ayrıca veri korumasına da dikkat etmeli, yapay zekâ araçlarının gizlilik politikasını ve kullanım koşullarını dikkatlice okuyarak verilerin nasıl toplandığını ve kullanıldığını anlamalıdır. Ek olarak, yapay zekâ kullanılırken cihaza erişim kontrol edilmelidir. Riskleri en aza indirmek için özellikle önemli belgeler yapay zekâ ile paylaşılmamalıdır.

Yapay Zeka Geliştirme Departmanı Başkanı ve Sahtekarlıkla Mücadele Projesi Sorumlusu Bay Ta Cong Son, yapay zeka yüklendikten sonra bilgisayarların yavaşlamasının veya donmasının, özelliklerini işlemek için yetersiz RAM'den kaynaklanabileceğine inanıyor. Ancak bu aynı zamanda kullanıcıların bazı risklerle karşı karşıya kalabileceğine dair bir uyarı işaretidir.

"Güvenliği sağlamak için kullanıcılar yapay zekâya erişimi kısıtlamalıdır. Bir uygulama izin istediğinde, kullanıcılar bu izni vermenin gerekli ve güvenli olup olmadığını dikkatlice değerlendirmelidir. Yapay zekâ araçlarını kullanmanın güvenli bir yolu, tarama ve kontrol için antivirüs uygulamaları kullanmaktır. Ayrıca, kullanıcılar Virustotal.com veya Eset.com gibi web sitelerini kullanarak yapay zekânın kötü amaçlı yazılım içerip içermediğini veya güvenli olup olmadığını kontrol edebilirler," diye tavsiye etti Bay Son.

AMD Vietnam İş Direktörü Tran Son Binh, 2024 yılında düzenlenen üst düzey bir siber güvenlik seminerinde, ChatGPT'yi kod yazmak, programlamak veya veri özetlemek için kullanan kullanıcıların sistem güvenliği sorunlarına yol açabileceğini belirtti. Bunun nedeni, yapay zeka tarafından sağlanan kodun kötü amaçlı kod içerebilmesi ve yapay zekanın bunu güvenlik açıklarından yararlanmak ve veri yapılarını değiştirmek için kullanabilmesi, böylece sistemin güvenliğini ve performansını tehlikeye atabilmesidir.

Sayın Binh şunları vurguladı: "Birimlerin, özellikle ticari ve ulusal sırlarla ilgili içeriklerde, kullanıcı tarafından sağlanan verilere dayalı raporlar yazmak ve bilgileri sentezlemek için yapay zekayı kullanan personelini kontrol etmeleri gerekiyor. Şu anda hâlâ güvenli bir bölgedeyiz, ancak bu verilerin gelecekte de güvende kalıp kalmayacağını kim bilebilir?"

Yapay zeka veri toplayacak.

Gemini'ye göre, uygulamayla sohbet etmek bile kullanıcıların Google'ın hizmetlerini, Gemini'nin dayandığı makine öğrenimi modelleri de dahil olmak üzere, geliştirmelerine yardımcı oluyor. Bu geliştirme sürecinde, eğitimli inceleyicilerin kullanıcı konuşmalarını işlemesi gerekiyor. Gemini, "Bu nedenle, Gemini'yi kullanırken, inceleyicilerin görmesini istemediğiniz veya Google'ın kullanmasını istemediğiniz hiçbir bilgiyi girmeyin" diye uyarıyor.

Microsoft, Copilot ile ilgili olarak, kullanıcı etkileşimleri yoluyla veri topladığını belirtiyor. Sunduğu yapay zeka ürünleri kullanıcı girdilerine dayanıyor ve bazıları platformun diğer etkileşimli etkinliklerden veri toplamasıyla oluşturuluyor.

Bu, kullanıcılar yapay zekâ ile herhangi bir bilgi paylaştığında, uygulamanın bu bilgiyi toplayarak aracı daha akıllı hale getirdiği anlamına gelir. Bu da, kullanıcıların başkalarıyla paylaşılmasını istemediği verilerin kendileri tarafından görülebileceği anlamına gelir.

Kaynak: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm