"Yapay zeka neden tehlikeli?"

Aslında, bilim insanlarının yapay zekanın insanlık için potansiyel tehlikesi konusunda uyarıda bulunması ilk kez olmuyor. 2014 yılında, ünlü İngiliz teorik fizikçi Stephen Hawking şunları söylemişti: "Yapay zekanın tam gelişimi insanlığı yok edebilir." Ayrıca, bu tehlikeli teknolojinin araştırma ve geliştirilmesinde dikkatli olunmazsa, insanlığın 500 yıl içinde tamamen yapay zeka tarafından yerini alacağını öngörmüştü. Sekiz yıl önce, Temmuz 2015'te, Stephen Hawking, Elon Musk, Noam Chomsky ve diğerleri de dahil olmak üzere 1000'den fazla yapay zeka uzmanı, askeri yapay zeka alanında bir silahlanma yarışının riskine karşı uyarıda bulunan ve otonom silahların (yapay zeka ve ölümcül silahları birleştiren) tamamen yasaklanmasını talep eden bir dilekçeyi imzaladı. OpenAI'nin Kasım 2022'de Chat GPT uygulamasını piyasaya sürmesi, yapay zekanın doğasında var olan tehlikelerle ilgili bir başka alarm zili daha çaldı. Aslında, Chat GPT'nin yaptığı şey, yapay zekanın bir bakıma insanların bir zamanlar düşündüğünden çok daha tehlikeli hale geldiğini gösteriyor.

Yapay zekanın potansiyel riskleri, nasıl kullanıldığına bağlıdır. Başlangıçta yapay zeka, özellikle görüntü sınıflandırma ve bilgi inceleme gibi sıkıcı, tekrarlayan görevlerde insanlara yardımcı olmak için geliştirilmiştir. Ancak son zamanlarda yapay zekanın hızlı gelişimiyle birlikte, bilim insanları ve teknoloji uzmanları, kontrolsüz bir şekilde geliştirilmesi veya yanlış amaçlar için programlanması durumunda yapay zekanın insanlık ve toplum için ciddi sonuçlar doğurabileceğinden endişe duymaktadır.

Güvenliksizlik riski

Yapay zekâ, ulusal güvenlik ve kişisel güvenlik için bir tehdit haline gelebilir. Elon Musk, yapay zekânın savaşta korkunç bir araç haline gelebileceği konusunda uyarıda bulundu. Bir ülke üstün bir yapay zekâ sistemi geliştirebilirse, bunu diğer ülkelere saldırmak için kullanabilir. On yıllardır yapay zekâ üzerine araştırmalar yapan Kaliforniya Üniversitesi'nden bilgisayar bilimleri profesörü Stuart Russell, mevcut teknolojileri entegre ederek ve küçülterek otonom silahlar üretebileceğimizi belirterek, yapay zekânın oluşturduğu güvenlik tehdidine dikkat çekiyor.

Profesör Stuart Russell ve Gelecek Yaşam Araştırma Enstitüsü (FLI) tarafından yürütülen deneyde, kameralar, sensörler, görüntü işleme yazılımı, yüz tanıma, 3 gramlık patlayıcı madde ve insan beyninden 100 kat daha hızlı veri analizi ve tepkiler sağlayan yüksek hızlı bir mikroişlemci ile donatılmış mikroskobik bir uçan cihaz olan bir "katil robot" kullanıldı. Programlanmış parametrelerine göre, katil robot sürekli olarak bulut verilerine erişerek hedefi hakkında bilgi arar ve ona yaklaşmanın bir yolunu bulur. Hedefi bulduğunda, yüksek hızda hedefe doğru ilerler, 3 gramlık patlayıcı maddeyi patlatır ve kurbanın kafatasına derinlemesine nüfuz ederek onu anında öldürür.

Bu, yapay zekânın en basit seviyesinde yapılan bir deneydi. Yapay zekâ, yeni ve daha karmaşık saldırı yöntemleri geliştirmek için kullanılırsa, saldırganların saldırı yeteneklerini de artırabilir ve geleneksel saldırılardan daha ciddi sonuçlara yol açabilir. Yapay zekâ, değişen ortamlara uyum sağlamak için kendi kararlarını verebilecek, bağımsız olarak alternatif hedefler arayabilecek veya hedef aralığını genişletebilecek noktaya geldiğinde, belki de insanlık artık güvende olmayacaktır. Bu alandaki birçok meslektaşım Profesör Stuart Russell ile aynı fikirde ve böylesine kasvetli bir geleceği önlemek için hala bir şans olduğuna inanıyor, ancak gerçekten fazla zamanımız kalmadı.

Risk, yapay zekanın örgütlü, özerk hale gelmesi ve sistemi kontrol etmesidir.

Yapay zekâ, makine öğrenimi yoluyla yanlış tasarlanabilir veya uygunsuz şekilde "eğitilebilir" ve bu da insanlara ve çevreye zarar veren istenmeyen eylemlere yol açabilir. Örneğin, makine öğrenimi ile yapay zekâ giderek daha zeki hale geliyor. Yapay zekâ, enerji, ulaşım, sağlık ve finans gibi kritik sistemleri destekleyecek bir zekâ seviyesine ulaştığında, bu sistemlerin tamamını kontrol edebilir, kendi kararlarını alabilir ve acil durumlarda bunları uygulayabilir. Bununla birlikte, yapay zekâ kötü niyetle "donatıldığında" (yanlış tasarlandığında), trafik ışıklarını devre dışı bırakarak veya kentsel raylı sistemlere elektrik kesintisi yaparak trafik sistemlerini aksatmak, zincirleme kazalara ve yaygın elektrik kesintilerine neden olmak gibi ciddi sonuçlara yol açabilir.

Birçok Hollywood ve uluslararası film bu senaryoya dayanmıştır. Ancak, mevcut yapay zeka teknolojisiyle bu artık uzak bir ihtimal değil, tamamen mümkün. Elon Musk, yapay zekanın insan müdahalesi olmadan kararları otomatik hale getirebilecek noktaya kadar kontrolsüz bir şekilde gelişmesine izin verilirse, insanlığın hayatta kalması için bir tehdit oluşturabileceğine inanıyor. Bu nedenle, binlerce teknoloji uzmanıyla birlikte, yapay zeka gelişiminin şeffaf bir şekilde durdurulmasını ve sıkı bir şekilde kontrol edilmesini talep eden bir mektup imzaladı. Elon Musk'a göre, yapay zeka sistemleri karmaşık, anlaşılması zor ve kontrol edilmesi çok zor. Şeffaflık olmadan, yapay zekanın etik olmayan amaçlarla kullanılması ve insanlığa zarar vermesi kaçınılmazdır.

İş kaybı riski, gizlilik haklarının ihlali.

Kişisel bilgileri toplamak için kullanıldığında, yapay zekâ teknolojisi gizliliği ihlal etmek, dezenformasyon kampanyaları yürütmek ve sosyal düzeni ve siyasi istikrarı etkileyen yanlış bilgileri yaymak için kullanılabilir. ABD Personel Yönetimi Ofisi (OPM) ağının hacklenmesi, 21,5 milyon mevcut ve emekli ABD yetkilisinin ayrıntılı ve son derece hassas kişisel verilerini tehlikeye attığı için herhangi bir ülke veya kuruluş için önemli bir endişe kaynağıdır; bu veriler arasında eşleri hakkındaki bilgiler ve sağlık durumu, ikametgah, meslek, parmak izi ve mali bilgiler gibi devlet iş başvurularına ilişkin veriler de yer almaktadır. Ancak, CIA'nın OPM veri hırsızlığının faillerinin kişisel bilgileri tahrif etmek ve veri çalmak için sanal ajanlar oluşturmak amacıyla yapay zekâ kullandığını keşfetmesiyle daha da endişe verici bir gerçek ortaya çıktı. Çalınan bilgiler, Büyük Veri teknolojisi kullanılarak analiz edilecek, kategorize edilecek ve belirli amaçlar için kullanılacaktır. Yapay zekâ, bilgi hırsızlarının verileri kullanma süresini kısaltmasına yardımcı olur çünkü insanlar bu kadar büyük miktarda bilgiyi bu kadar kısa sürede işleyemez.

Yukarıda belirtilen doğal tehlikelerin yanı sıra, yapay zekâ teknolojisi ayrıca aşırı bağımlılık, durumlar üzerindeki kontrolün kaybı ve karar verme yeteneğinde azalma gibi başka riskler de yaratmaktadır. Yapay zekâ ayrıca, özellikle düşük bilgi içeriğine sahip tamamen manuel işlerde milyonlarca, hatta yüz milyonlarca insanın işini kaybetmesine neden olacaktır. Sonuç olarak, işsizlik, suç ve zengin ile fakir arasındaki uçurum gibi ciddi sosyal sorunlar daha da belirginleşecektir. Dahası, güvenilirlik de çok önemli bir konudur. Sağlık ve ceza adaleti gibi son derece uzmanlaşmış alanlarda kararların güvenilirliği son derece önemlidir. Bu alanlarda karar vermede yapay zekâya yardımcı olmak için kullanıldığında, teknoloji yeterince güvenilir değilse, bir veya bir grup insanı kayırmaya eğilimli verilere dayanarak çalışıyorsa veya kasıtlı olarak çarpıtılmışsa, bu kararlar ciddi sonuçlara yol açabilir.

Bunu nasıl önleyebiliriz?

Bahsi geçen riskler, Elon Musk ve teknoloji uzmanlarının yapay zekanın kontrolsüz gelişmesinden endişe duymalarının ve Birleşmiş Milletler ile uluslararası kuruluşlara yapay zeka geliştirme sürecinde sıkı kontrol, güvenlik ve etik sağlanması ve yapay zeka teknolojisinin insanlık ve toplum için yararlı bir şekilde kullanılmasını sağlamak amacıyla uluslararası işbirliğinin güçlendirilmesi çağrısında bulunan mektuplar yazmalarının nedenidir. Bahsedilebilecek bazı özel önlemler şunlardır:

- Sistem güvenilirliği kontrolü: Yapay zekânın, insanların amaçladığı şekilde çalışmasını sağlamak ve güvenilmezliğinden kaynaklanan istenmeyen etkilerden kaçınmak için, titiz, sık ve sürekli kalite kontrolü, izleme ve denetim yöntemleriyle güvenlik ve güvenilirliği sağlayacak şekilde tasarlanması ve geliştirilmesi gerekir.

Yapay zekâ (YZ) teknolojisinin etik değerlere ve toplumsal normlara uygun olarak çalışması için programlanması gerekmektedir. Bu düzenlemeler ve standartlar, insanlara veya kuruluşlara zarar vermemesini sağlamak için açıkça belirlenmeli ve izlenmelidir. YZ sisteminin performansının analiz edilmesi, etkisinin değerlendirilmesi ve izlenmesi süreci de düzenli olarak yapılmalıdır; böylece etik olarak çalışması, toplumun ortak değerlerini ihlal etmemesi veya aşındırmaması, olumsuz etkilere neden olmaması ve bilgi ve değerlerin doğru bir şekilde aktarılması sağlanmalıdır.

Gazetecilik, yapay zekâdan en çok etkilenen sektörlerden biridir. Gelecekte, radyo programları için ekran dışında sunuculara ihtiyaç kalmayacak ve televizyon programlarında sanal sunucular baskın hale gelecektir.

- Yapay zekâ sistemlerinin "eğitimini" en az altı aylığına geçici olarak durdurarak tüm konuyu yeniden değerlendirin. Bu duraklama kamuoyuna açık, kontrollü olmalı ve eğitimde yer alan tüm kilit paydaşlar buna uymalıdır. Gerekirse, hükümetler geçici yasaklar getirmelidir. Bu, yapay zekâ geliştirmenin tamamen durdurulması anlamına gelmez, sadece yapay zekâ sistemlerini daha doğru, güvenli, anlaşılabilir, şeffaf, ilgili, güvenilir ve sadık hale getiren diğer geliştirme modellerine geçiş için tehlikeli yarışta geçici bir duraklama anlamına gelir. Bu, Elon Musk ve meslektaşlarının açık mektuplarında savunduğu kapsamlı bir çözümdür, ancak uygulanabilirliği düşüktür. Tüm bağımsız laboratuvarların bu bağlayıcı olmayan ve uluslararası çağrıya uyması çok zordur.

- Ülkeler ve bağımsız yapay zeka araştırma kuruluşları arasında iş birliğinin ve bilgi paylaşımının güçlendirilmesi, yapay zekanın gelecekte güvenli bir şekilde geliştirilmesi ve kullanılması için çok önemlidir. İş birliği ve bilgi paylaşımı ayrıca, ortaya çıkabilecek risklere karşı zamanında uyarı verilmesini ve bunların önlenmesini de mümkün kılar.

Genel olarak, yapay zeka zaten her yerde etrafımızda mevcut ve yapay zekanın şiir, müzik ve makale yazması gibi hikayeler artık bilim kurgu değil, gerçek oldu. Bu makalenin yazarı, yazma sürecini daha sorunsuz ve hızlı hale getirmek için bilgisayarlarda ve telefonlarda yapay zeka teknolojisinden yararlandı. Özellikle, giriş paragrafı (başlık) ve bazı fikirler yapay zeka tarafından önerildi ve daha da dikkat çekici olanı, bu makalede kullanılan tüm görseller yapay zeka tarafından oluşturuldu. Yapay zeka teknolojisi, insanların iş ve yaşam kalitesini iyileştirmede çok faydalıdır, ancak teorik fizikçi Stephen Hawking'in öngördüğü gibi, kontrolden çıkmasını ve gelecekte insanların yerini almasını önlemek için sıkı bir şekilde kontrol edilmesi gerekir.

Metin ve fotoğraflar: HUU DUONG

[reklam_2]
Kaynak