OpenAI, bilgisayar korsanlarının daha karmaşık işlemler yapmak için yapay zekayı kullandığı konusunda uyarıyor

OpenAI'nin Ekim ayı raporuna göre, siber saldırganlar dünya genelinde performansı artırmak için tamamen yeni saldırı araçları veya yöntemleri geliştirmek yerine, mevcut saldırı hatlarına öncelikle yapay zekayı (YZ) entegre ediyor.

OpenAI'ye göre tespit edilen faaliyetlerin büyük bir kısmı, kötü amaçlı yazılım geliştirme, kontrol altyapısı oluşturma, daha karmaşık kimlik avı e-postaları oluşturma ve hedefler hakkında bilgi toplama gibi bilindik görevlerde yapay zekanın kullanılmasını içeriyordu.

Raporda, "Engellenen ekipler çoğunlukla yapay zekayı mevcut süreçlere entegre ediyor, yapay zekaya dayalı yeni süreçler inşa etmiyordu" ifadeleri yer alıyor.

Raporda ayrıca birçok kullanıcı grubunun, uygulama geliştirmeden ağ sistemi yapılandırmasına kadar çeşitli teknik alanlarda bilgi toplamak için büyük dil modelleri (LLM) kullandığı, bunu da genellikle her hesabı belirli bir görev için uzmanlaştıracak şekilde yaptığı tespit edildi.

Makaleler, görseller ve videolar dahil olmak üzere çevrimiçi içerik üretmek, medya kampanyalarına hizmet etmek veya belirli bakış açılarını tanıtmak için yapay zeka platformlarını kullanan başka kullanıcı ağları da tespit edildi. Ancak bu hesapların çoğu etkisiz ve etkileşim seviyeleri çok düşük.

OpenAI ayrıca, Myanmar ve Kamboçya'da dolandırıcılık merkezleri ve siber suçluların çevrimiçi dolandırıcılık faaliyetlerini desteklemek için ChatGPT kullandığı olgusunu da kaydetti. Bazı vakalar, yapay zekanın yalnızca içerik düzenlemek için değil, aynı zamanda çalışma programlarını, insan kaynaklarını ve finansları yönetmek için de kullanıldığını gösteriyor.

Ancak OpenAI, yapay zekanın dolandırıcılığı önlemek için de aktif olarak kullanıldığını belirtiyor. ChatGPT'nin dolandırıcılık tespit edip önlemek için dolandırıcılık yapmaktan üç kat daha fazla kullanıldığı tahmin ediliyor.

Kötü niyetli isteklerin çoğu sistem tarafından reddediliyor, ancak raporda teknik veya araştırmaya dayalı isteklerin istenmeyen amaçlar için istismar edilebileceği bir "gri alan"ın hâlâ mevcut olduğu belirtiliyor.

Ancak OpenAI, oluşturulan kodun veya içeriğin platform dışında kötüye kullanılmadığı sürece kötü amaçlı olmadığını ileri sürüyor.

(TTXVN/Vietnam+)

Kaynak: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp