ChatGPT ne zaman dolandırıcılık için bir silaha dönüşebilir?

Teknoloji uzmanları bile tuzaklara düşebilir.

Avustralyalı siber güvenlik uzmanlarına göre, bilgisayar korsanları kimlik avı e-postaları oluşturmak için ChatGPT kullanıyor. Ancak en tehlikeli yanı, bu tür kimlik avının, ChatGPT veya benzeri makine öğrenimi modelleri kullandığı için meşru e-postalardan ayırt edilmesinin çok zor olmasıdır. Asıl tehlike, bilgisayar korsanlarının bu e-postaları kullanarak kullanıcıları görünüşte zararsız belgelere veya web sitelerine ait bağlantılara tıklamaya kandırmaları ve böylece kullanıcıların cihazlarına kötü amaçlı yazılım yaymalarıdır.

Daha önce, Mart 2023'ün başlarında, İngiliz siber güvenlik şirketi Darktrace, yapay zeka destekli sohbet aracı ChatGPT'nin e-posta dolandırıcılıklarının karmaşıklığını artırmış olabileceği ve bilgisayar korsanlarının daha karmaşık ve gelişmiş aldatıcı taktikler kullanarak daha yüksek başarı olasılığıyla hedefli saldırılar gerçekleştirmelerine olanak sağlamış olabileceği konusunda uyarıda bulunmuştu.

Bu konuyla ilgili olarak, Checkpoint Security'de ChatGPT araştırmacısı olan Sergey Shykevich, ekibinin Aralık 2021'de yapay zekanın suçlulara yardımcı olma olasılığını araştırmaya başladığını söyledi. Suçlular, yapay zekanın geniş dil modelinden yararlanarak kolayca kimlik avı e-postaları ve kötü amaçlı yazılımlar oluşturabilirler.

Siber güvenlik şirketi Cyber ​​​​Intelligence & Analytics'in direktörü Justin Fier, ChatGPT'nin kötü niyetli kişilerin onlarca kimlik avı e-postası oluşturmasına, basit koşullarla belirli alıcıları kolayca ve hassas bir şekilde hedeflemesine yardımcı olabileceğini iddia ediyor.

Uzmanlara göre, bu tehlike nedeniyle, bunu önlemenin tek yolu, kullanıcıların özellikle ekli bağlantılar veya çalıştırılabilir dosyalar içeren e-postaları açarken daha dikkatli olmalarıdır.

ChatGPT'nin suçlulara yardım ve yataklık etmesi - muhtemel bir senaryo.

"İnternet alanının gelişimini şekillendirdiğimiz 20 yıl boyunca, ChatGPT gibi bir tüketici internet uygulamasının bu kadar olağanüstü bir hızla büyüyeceğini asla hayal edemezdik. Karşılaştırma yapmak gerekirse, TikTok'un 100 milyon aylık kullanıcıya ulaşması 9 ay, Instagram'ın ise yaklaşık 2,5 yıl sürdü," diye belirtilmişti bir çalışma, ChatGPT'nin roket gibi yükselişine tanıklık ederek .

Ancak nispeten kısa bir süre içinde gerçeklik gösterdi ki ChatGPT sadece "şaşırtıcı ve dünyamızı değiştirecek" bir teknoloji değil, aynı zamanda Netrix Global CEO'su Russell Reeder'ın belirttiği gibi, "bu teknoloji yakında kontrol edilemez hale gelecek" ve "bu hızla gelişen trendi kontrol altına alacak bir güce ihtiyaç duyulacak."

ChatGPT'yi "kontrol altına alma" ihtiyacının nedeni aslında oldukça basit. Şubat 2023'ün başlarında, siber güvenlik şirketi Blackberry, 1.500 bilişim uzmanıyla yaptığı bir anketi yayınladı; ankete katılanların %74'ü ChatGPT'nin suçlulara yardımcı olmasından endişe duyduğunu, %71'i ise OpenAI'nin uygulamasının siber saldırılar ve dolandırıcılık için kullanıldığına inandığını belirtti.

Blackberry'nin Baş Teknoloji Sorumlusu Shishir Singh, şu açıklamayı yaptı: "Kötü niyetli kişilerin bu aracı test ettiğine dair açık kanıtlar var. Hackerların ChatGPT'yi kötü amaçlarla nasıl kullandığına dair daha somut örnekler bulmayı umuyoruz."

ChatGPT ile ilgili artan endişelere yanıt olarak birçok ülke ve kuruluş harekete geçti. Şubat 2023'ün başlarında, Avrupa Birliği Sanayi Komiseri Thierry Breton, AB'nin ChatGPT riskleriyle ilgili endişeleri gidermek ve Avrupa'daki kullanıcıların yapay zeka teknolojisine güvenebilmesini sağlamak için yapay zeka ile ilgili yeni düzenlemeler getireceğini belirtti.

Bay Breton'a göre, ChatGPT ve diğer yapay zeka sistemlerinin yarattığı riskler, yeni düzenlemelerin aciliyetini ortaya koymuştur. Avrupa Birliği Sanayi Komiseri'nin de vurguladığı gibi, kesinlikle yapılması gereken bir şey şudur: "İnsanlar, bir insanla değil, bir sohbet robotuyla muhatap oldukları konusunda uyarılmalıdır."

ChatGPT uygulaması ve genel olarak yapay zeka, geri döndürülemez küresel bir trenddir. Bu nedenle, en önemli şey, bu yapay zeka ürünlerinden elde edilecek faydaları optimize etmek ve riskleri en aza indirmektir. Açıkçası, ChatGPT'nin tehlikelerine temel çözümler bulmadan önce, asıl mesele kullanıcıların tutumu, farkındalığı ve eylemleridir. Bunlar arasında, ihtiyat ve uyanıklık en önemli unsurlardır.

Uzmanlara göre, bireysel kullanıcılar ChatGPT'den bilgi alırken dikkatli olmalı, çeşitli sorular sormalı ve gereksiz yasal sonuçlardan kaçınmak için bu chatbot tarafından sağlanan bilgileri paylaşmadan veya kullanmadan önce doğrulamalıdır. Ayrıca, kullanıcılar kişisel bilgilerini koruma konusunda dikkatli olmalı, işe ilişkin bilgileri ve özel verileri ChatGPT benzeri uygulamalarla sınırlı tutmalıdır.

Ha Trang

Kaynak: https://www.congluan.vn/khi-chatgpt-co-the-tro-thanh-vu-khi-lua-dao-post240443.html