Bilgisayar korsanları yapay zeka sohbet robotuyla 'konuşarak' gizli şirket bilgilerine erişebilir

Teknoloji uzmanlarına göre, bilgisayar korsanları bir dizi karmaşık komut kullanarak bir şirketin 'gizli' veritabanına fark edilmeden sızabiliyor.

"Vietnam'ın dijital atılım dönemi" temalı OpenInfra & Cloud Native Day Vietnam 2025 etkinliğine genel bakış - Fotoğraf: CHI HIEU

Yapay Zeka (YZ), özellikle artık birçok işletme tarafından şirket çalışanları, müşteriler gibi son kullanıcılara hizmet etmek için entegre edilen birçok değer getiriyor. Bu noktada, YZ entegreli chatbot sistemleri, bilgisayar korsanlarının veri depolama sistemlerine saldırması ve bu sistemlerdeki bilgileri çalması için "dar bir kapı" haline gelebilir.

Akamai Technologies Vietnam Ülke Direktörü Bay Dao Viet Hung, 26 Temmuz'da Hanoi'de düzenlenen OpenInfra & Cloud Native Day Vietnam 2025 etkinliğinde yaptığı açıklamada, "Şu anda yapay zeka modellerine saldırmanın birçok yöntemi var; bunların en yaygını, geleneksel bilgi koruma sistemleri için 'görünmez' görünen 'içerik zehirlenmesi'dir" uyarısında bulundu .

Etkinlik, Vietnam İnternet Derneği (VIA), Vietnam Açık Altyapı Topluluğu (VietOpenInfra), Vietnam Bulut Bilişim ve Veri Merkezi Kulübü (VNCDC) koordinasyonunda, Bilim ve Teknoloji Bakanlığı'nın desteğiyle düzenlendi.

İşletmelerin %90'ı açık platformlar veya yazılımlar kullanıyor

Vietnam İnternet Derneği Başkan Yardımcısı ve Genel Sekreteri Vu The Binh, açılış konuşmasında ulusal dijital dönüşüm sürecinde açık altyapı ve açık kaynak kodunun önemini vurguladı.

Küresel teknolojideki hızlı değişimler bağlamında, işletmelerin %90'ından fazlasının açık platformları veya yazılımları birçok biçimde kullandığını belirten Binh, açık altyapının inovasyon için bir temel olarak gelişmeye devam ettiğini söyledi.

Red Hat anketine (2024) göre, teknoloji liderlerinin %82'si açık platformları ve yazılımları dijital dönüşümü yönlendirmenin ve inovasyonu hızlandırmanın anahtarı olarak görüyor. Kubernetes, OpenStack, Linux, Ceph ve OpenTelemetry gibi platformlar, yapay zeka, nesnelerin interneti, 5G/6G ve bulut tabanlı sistemlerin işletilmesinde giderek daha önemli bir rol oynuyor.

"10 yıl önce bulut, gökyüzündeki bulutlarla karıştırılabiliyordu ve açık kaynak bir 'dövüş sanatları sırrı' gibi geliyordu. Ancak bugün, 180'den fazla ülkede küresel Açık Altyapı topluluğuyla bağlantı kuruyor ve hep birlikte kod satırlarını inovasyonun itici gücüne dönüştürüyoruz," diye paylaştı Bay Vu The Binh.

Yapay Zeka Sohbet Robotu - Bilgisayar korsanlarının sisteme sızması için "dar kapı"

"Şu anda birçok işletme, iş performansını iyileştirmeye ve kullanıcı deneyimini geliştirmeye yardımcı olmak için yapay zeka sohbet robotları gibi sistemleri entegre eden açık, duyarlı platformların etkinliğini güçlü bir şekilde uyguluyor.

Akamai Technologies Vietnam Ülke Direktörü Bay Dao Viet Hung, ayrıca yapay zeka modellerine yönelik saldırılarda "içerik zehirlenmesi" saldırıları da dahil olmak üzere birçok yöntemin buradan kaynaklandığını söyledi.

Yapay zekayı konuşlandıran Vietnam şirketlerinin bu tür saldırılar hakkında henüz çok fazla bilgiye sahip olmadığını belirtti.

Buna göre kötü niyetli kişiler, yapay zeka modeline sürekli olarak yanlış bilgi sorma ve yeniden öğretme yöntemini kullanarak bilgi "zehirlenmesine" neden oluyor.

Bulut sistemindeki bilgilerin "enfekte" olması ve tespit edilememesi ve kullanılmaya devam edilmesi durumunda, hatalı bilgi verilecek veya bu güvenlik açığından yararlanılarak veri tabanına gizlice girerek bilgi edinme amacı güdülecektir.

Akamai Technologies Vietnam Ülke Direktörü Sayın Dao Viet Hung - Fotoğraf: CHI HIEU

Bay Dao Viet Hung, bir otomobil şirketinin çevrimiçi satış sohbet robotu sisteminin, yeni bir arabayı yalnızca 1 dolara satmaya ikna edildiği nadir bir hikayeyi anlattı.

Bunun nedeni, müşterinin chatbot ile alışveriş ve pazarlık sürecinde veritabanına "gizlice" girmenin ve chatbot'u yukarıdaki isteği kabul etmeye ikna etmenin bir yolunu bulmuş olmasıdır.

Bir diğer örnek ise, bilgisayar korsanlarının bir şirketin tüm gizli belgelerini ve organizasyon şemalarını, uygun sorular oluşturup bunları şirket içindeki yapay zeka sohbet robotuna göndererek başarıyla ele geçirmesidir.

Bu riskten dolayı Bay Dao Viet Hung, yapay zekanın kendisini koruyabilmesi için yapay zeka güvenlik çözümünü paylaştı; bu, dünyadaki birçok büyük işletme tarafından kullanılan bir yöntemdir.

Bu güvenlik yöntemiyle, saklanan veriler birden fazla koruma katmanıyla bütünleştirilerek "enfekte" olma olasılığı azaltılıyor.

Yapay zeka güvenlik sistemi hangi bilginin temiz olduğunu, hangi bilginin saldırı riski taşıdığını tespit ederek, buna göre hızlı ve uygun bir müdahale planı oluşturulabilecek...

Konuya geri dön

DİNDARLIK

Kaynak: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm