Yapay zekanın nükleer savaş başlatma riski bilim kurgu değil

Yapay zekanın kontrolünü kaybetme riski

İnsanlık ufukta görünen bir hayaleti görmezden geliyor gibi görünüyor: Yapay zekânın (YZ) yol açacağı küresel nükleer savaş hayaleti. BM Genel Sekreteri Antonio Guterres bu konuda uyarıda bulunmuştu. Ancak nükleer silahlı devletler şimdiye kadar bu felaket tehdidiyle mücadele etmek için bir araya gelmedi.

Nükleer savaş tehlikesi bir efsane değil. — Yapay zekanın (YZ) hızlı gelişimi, YZ'nin nükleer silah fırlatma sürecine müdahale etme riskini doğurmaktadır. İllüstrasyon fotoğrafı

Beş büyük nükleer güç olan ABD, Rusya, Çin, İngiltere ve Fransa arasında, her ülkenin nükleer silahların fırlatılması kararında insanların katılımını sağlayacak bir sisteme sahip olması anlamına gelen "insan katılımı" ilkesi konusunda uzun zamandır gayriresmi bir fikir birliği bulunmaktadır.

Beş büyük güçten hiçbiri nükleer fırlatma komuta sistemlerine yapay zeka yerleştirdiklerini söylemiyor. Hindistan, Mumbai merkezli uluslararası bir araştırma kuruluşu olan Strategic Foresight Group'un başkanı Dr. Sundeep Waslekar'a göre bu doğru ama yanıltıcı.

Yapay zekâ, tehdit tespiti ve hedef seçimi için halihazırda kullanılıyor. Yapay zekâ destekli sistemler, sensörlerden, uydulardan ve radarlardan gelen büyük miktarda veriyi gerçek zamanlı olarak analiz ederek, gelen füze saldırılarını analiz ediyor ve müdahale seçenekleri öneriyor.

Operatör daha sonra farklı kaynaklardan gelen tehditleri çapraz kontrol eder ve düşman füzelerini engellemek ya da misilleme saldırıları düzenlemek arasında karar verir.

Sundeep Waslekar, "Şu anda insan operatörlerin tepki süresi 10 ila 15 dakika. 2030 yılına kadar bu süre 5 ila 7 dakikaya düşecek," dedi. "Son kararları insanlar verecek olsa da, yapay zekanın öngörücü ve kuralcı analizlerinden etkilenecekler. Yapay zeka, 2030'lar gibi erken bir tarihte fırlatma kararlarının itici gücü olabilir."

Sorun şu ki, yapay zeka yanılabiliyor. Tehdit tespit algoritmaları, füze saldırısı olmadığı halde bunu işaret edebilir. Bu, bilgisayar hatalarından, ağ ihlallerinden veya sinyalleri engelleyen çevresel faktörlerden kaynaklanabilir. İnsan operatörler diğer kaynaklardan gelen yanlış alarmları iki ila üç dakika içinde doğrulayamazlarsa, misilleme saldırıları tetiklenebilir.

Çok küçük bir hata, büyük bir felaket

Suç tahmini, yüz tanıma ve kanser teşhisi gibi birçok sivil işlevde yapay zeka kullanımının %10'luk bir hata payına sahip olduğu bilinmektedir. Sundeep Waslekar'a göre, nükleer erken uyarı sistemlerinde bu oran %5 civarında olabilir.

Görüntü tanıma algoritmalarının doğruluğu önümüzdeki on yılda arttıkça, bu hata payı %1-2'ye düşebilir. Ancak %1'lik bir hata payı bile küresel bir nükleer savaşa yol açabilir.

Önümüzdeki iki-üç yıl içinde, tehdit tespit sistemlerinden kaçabilen yeni kötü amaçlı yazılımların ortaya çıkmasıyla risk artabilir. Bu kötü amaçlı yazılımlar, tespit edilmekten kaçınmak için adapte olacak, hedefleri otomatik olarak belirleyecek ve onlara saldıracaktır.

Soğuk Savaş sırasında birçok "uçurum" durumu yaşandı. 1983'te bir Sovyet uydusu, Amerika Birleşik Devletleri tarafından fırlatılan beş füzeyi yanlışlıkla tespit etti. Rusya'nın Sepukhov-15 komuta merkezinde görevli bir subay olan Stanislaw Petrov, bunun yanlış bir alarm olduğu sonucuna vardı ve üstlerini uyararak karşı saldırı başlatmalarını sağlamadı.

1995 yılında, Olenegorsk radar istasyonu Norveç açıklarında bir füze saldırısı tespit etti. Rusya'nın stratejik kuvvetleri alarma geçirildi ve dönemin Devlet Başkanı Boris Yeltsin'e nükleer evrak çantası teslim edildi. Yeltsin, bunun bir hata olduğundan şüphelenerek düğmeye basmadı. Ancak, bunun bilimsel bir füze olduğu ortaya çıktı. Her iki durumda da tepkiyi belirlemek için yapay zeka kullanılsaydı, sonuçlar felaket olabilirdi.

Günümüzde hipersonik füzeler, yapay zeka yerine geleneksel otomasyon kullanıyor. Mach 5 ile Mach 25 arasında hızlarda uçabiliyor, radar tespitinden kaçınabiliyor ve uçuş rotalarını kontrol edebiliyorlar. Süper güçler, hareketli hedefleri anında tespit edip yok etmek için hipersonik füzeleri yapay zeka ile geliştirmeyi ve böylece öldürme kararını insanlardan makinelere kaydırmayı planlıyor.

Ayrıca, insan kontrolünün ötesinde çalışan yapay zekâ modellerine yol açabilecek genel yapay zekâ geliştirme yarışı da var. Bu gerçekleştiğinde, yapay zekâ sistemleri kendilerini geliştirmeyi ve çoğaltmayı öğrenecek ve karar alma süreçlerini devralacak. Böyle bir yapay zekâ, nükleer silahlar için karar destek sistemlerine entegre edilirse, makineler yıkıcı savaşlar başlatabilecek.

Harekete geçme zamanı

Yukarıdaki riskler karşısında pek çok uzman, nükleer savaş riskini en aza indirmek için insanlığın "insanlar dahil" sloganını tekrarlamanın ötesine geçerek büyük güçler arasında kapsamlı bir anlaşmaya ihtiyaç duyduğuna inanıyor.

Bu anlaşmanın şeffaflık, hesap verebilirlik ve iş birliği önlemlerini; test ve değerlendirme için uluslararası standartları; kriz iletişim kanallarını; ulusal denetim kurullarını; ve insan operatörleri atlatabilen saldırgan yapay zeka modellerini yasaklayan kuralları içermesi gerekiyor.

Nükleer savaş tehlikesi 3D görüntü uzmanı değil — BM Genel Sekreteri António Guterres, 1945'te atom bombasıyla vurulan Hiroşima'da düzenlenen barış anma törenine katılıyor. Fotoğraf: BM

Jeopolitik değişimler böyle bir anlaşma için fırsat yaratıyor. Örneğin, Çin ve ABD'den önde gelen yapay zeka uzmanları, yapay zeka riskleri konusunda bir dizi ikinci kanal diyaloğuna girdi ve bu da eski ABD Başkanı Joe Biden ve Çin Devlet Başkanı Xi Jinping'in geçen Kasım ayında ortak bir açıklama yapmasına yol açtı.

Milyarder Elon Musk, insanlığı yapay zekanın yarattığı varoluşsal risklerden kurtarma gerekliliğinin güçlü bir savunucusu ve Dr. Sundeep Waslekar'a göre, mevcut ABD Başkanı Donald Trump'ı, Joe Biden ile Xi Jinping arasındaki ortak açıklamayı bir anlaşmaya dönüştürmeye teşvik edebilir.

Dr. Sundeep Waslekar'a göre, yapay zekâya karşı nükleer mücadele Rusya'nın da katılımını gerektiriyor. Rusya, bu yılın Ocak ayına kadar, Ukrayna görüşülmediği sürece yapay zekâ ile yakınlaşma da dahil olmak üzere herhangi bir nükleer risk azaltma önlemini görüşmeyi reddetti.

ABD Başkanı Donald Trump'ın, Rusya Devlet Başkanı Vladimir Putin ile ikili ilişkileri geliştirmek ve Ukrayna'daki savaşı sona erdirmek için diyaloğa girmesiyle birlikte Rusya artık görüşmelere açık olabilir.

Bu yılın Şubat ayında, ABD Başkan Yardımcısı JD Vance'in Paris Yapay Zeka Eylem Zirvesi'ndeki konuşmasının ardından, Yeni Amerikan Güvenliği Merkezi (CNAS) de "Yapay Zeka Kıyametini Önlemek: Nükleer Silahlar ve Yapay Zeka Bağlantı Noktasında ABD-Çin-Rusya Rekabeti" başlıklı bir rapor yayınladı.

Raporda, yapay zeka-nükleer bağlantısının en önemli riskleri belirleniyor ve ABD yönetiminin Çin ve Rusya ile kapsamlı bir risk azaltma ve kriz yönetimi mekanizmaları oluşturması isteniyor.

Geçtiğimiz yılın Eylül ayında, ABD de dahil olmak üzere yaklaşık 60 ülke, Güney Kore'nin Seul kentinde düzenlenen Askeri Alanda Sorumlu Yapay Zeka Zirvesi'nde (REAIM) yapay zekanın askeri alanda sorumlu kullanımını yönetmek için bir "eylem planı" benimsemişti. Bu, geçen yıl Lahey'de düzenlenen konferanstan sonra bu türdeki ikinci konferanstı. Bu gelişmeler, yapay zekanın başlattığı bir nükleer savaş riskinin bilim kurgu olmadığını gösteriyor.

Dünya, BM Genel Sekreteri Antonio Guterres'in çağrısıyla, "nükleer silahların kullanımıyla ilgili her kararın makineler veya algoritmalar tarafından değil, insanlar tarafından alınmasını" sağlamak için nükleer güçlerin gerçek adımlar atmasını gerektiren giderek daha acil bir varoluşsal sorunla karşı karşıyadır.

Yorum (0)