"Vietnam'ın Dijital Atılım Çağı" temalı OpenInfra & Cloud Native Day Vietnam 2025 etkinliğine genel bakış - Fotoğraf: CHI HIEU
Yapay zekâ (YZ) birçok fayda sunmaktadır ve günümüzde birçok işletme tarafından şirket çalışanları ve müşteriler gibi son kullanıcılara hizmet etmek amacıyla entegre edilmektedir. Bununla birlikte, bu entegrasyon, bilgisayar korsanlarının veri depolama sistemlerinden bilgi çalmasına ve saldırmasına olanak tanıyan güvenlik açıkları da yaratabilir.
Akamai Technologies Vietnam Ülke Direktörü Bay Dao Viet Hung, 26 Temmuz'da Hanoi'de düzenlenen OpenInfra & Cloud Native Day Vietnam 2025 etkinliğinde , "Şu anda yapay zeka modellerine saldırmanın birçok yöntemi var, en yaygın olanı ise geleneksel bilgi koruma sistemleri için 'görünmez' gibi görünen bir saldırı türü olan 'içerik zehirlenmesi'" uyarısında bulundu.
Etkinlik, Vietnam İnternet Birliği (VIA) tarafından, Vietnam Açık Altyapı Topluluğu (VietOpenInfra) ve Vietnam Bulut Bilişim ve Veri Merkezi Kulübü (VNCDC) iş birliğiyle ve Bilim ve Teknoloji Bakanlığı'nın desteğiyle düzenlendi.
İşletmelerin %90'ı açık kaynaklı platformlar veya yazılımlar kullanıyor.
Vietnam İnternet Birliği Başkan Yardımcısı ve Genel Sekreteri Sayın Vu The Binh, açılış konuşmasında ulusal dijital dönüşüm sürecinde açık altyapı ve açık kaynak yazılımın önemini vurguladı.
Hızla değişen küresel teknoloji ortamında, Bay Binh, işletmelerin %90'ından fazlasının çeşitli biçimlerde açık platformlar veya yazılımlar kullandığını ve açık altyapının inovasyon için bir temel olarak gelişmeye devam ettiğini belirtti.
Red Hat'in 2024 yılında yaptığı bir araştırmaya göre, teknoloji liderlerinin %82'si açık platformları ve yazılımları dijital dönüşümü yönlendirmek ve inovasyonu hızlandırmak için kilit unsur olarak görüyor. Kubernetes, OpenStack, Linux, Ceph ve OpenTelemetry gibi platformlar, yapay zeka, Nesnelerin İnterneti (IoT), 5G/6G ve bulut tabanlı sistemlerin çalışmasında giderek daha önemli bir rol oynuyor.
"On yıl önce bulut, gökyüzündeki bir bulutla karıştırılabilirdi ve açık kaynak 'gizli bir dövüş sanatları tekniği' gibi gelebilirdi. Ancak bugün, 180'den fazla ülkede küresel Açık Altyapı topluluğuyla bağlantı kurarak, kod satırlarını inovasyonun itici gücüne dönüştürmek için birlikte çalışıyoruz," diye belirtti Bay Vu The Binh.
Yapay zekâ destekli sohbet robotları, bilgisayar korsanlarının sistemlere sızması için "dar bir fırsat penceresi" oluşturuyor.
"Günümüzde birçok işletme, iş verimliliğini artırmak ve kullanıcı deneyimini geliştirmek için yapay zeka sohbet robotları gibi entegre sistemlere sahip açık, duyarlı platformların avantajlarından yoğun bir şekilde yararlanıyor."
Akamai Technologies Vietnam ülke direktörü Dao Viet Hung, "Yapay zeka modellerini hedef alan birçok saldırı yöntemi, 'içerik zehirleme' saldırıları da dahil olmak üzere, tam bu noktadan ortaya çıkıyor" uyarısında bulundu.
Vietnamlı işletmelerin yapay zekayı kullanırken bu tür saldırılar hakkında yeterli bilgiye sahip olmadıklarını belirtti.
Buna göre, kötü niyetli kişiler yapay zekâ modellerine tekrar tekrar yanlış bilgiler sorarak ve bunları yeniden öğreterek bilgi "zehirlenmesine" neden olma yöntemini kullanmaktadır.
Bulut sistemindeki bilgiler "virüs bulaşmış" ancak tespit edilemeden kullanılmaya devam ederse, yanlış bilgiler sağlayacak veya bu güvenlik açığından yararlanarak veritabanına erişip bilgi çalacaktır.
Akamai Technologies Vietnam Ülke Direktörü Bay Dao Viet Hung - Fotoğraf: CHI HIEU
Bay Dao Viet Hung, bir otomobil şirketinin çevrimiçi satış robotu sisteminin yeni bir arabayı sadece 1 dolara satmaya ikna edilmesi gibi sıra dışı hikayelerden bahsetti.
Bunun nedeni, bu müşterinin chatbot ile olan iletişim ve müzakere sürecinde veritabanını "atlatmayı" başarması ve chatbot'u talebi kabul etmeye ikna etmesidir.
Bir başka örnekte ise bir bilgisayar korsanının, uygun sorular hazırlayıp bunları şirket içi bir yapay zekâ sohbet robotuna göndererek bir şirketin tüm gizli belgelerini ve organizasyon şemalarını başarıyla ele geçirdiği gösteriliyor.
Bu riski göz önünde bulundurarak, Bay Dao Viet Hung, yapay zekanın yapay zekayı koruduğu bir yapay zeka güvenlik çözümü paylaştı; bu yöntem dünya çapında birçok büyük işletme tarafından kullanılıyor.
Bu güvenlik yöntemiyle, depolanan veriler birden fazla koruma katmanına sahip olduğundan "enfekte" olması zorlaşır.
Yapay zekâ güvenlik sistemleri, hangi bilgilerin temiz olduğunu ve hangi bilgilerin potansiyel saldırı riski oluşturduğunu tespit edebilir ve ardından hızlı ve uygun önlemler alabilir...
Kaynak: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Yorum (0)