Yapay zekanın, insanlar tarafından kontrol edilemeyen gelişmiş silahlar yaratacağı endişesi

Yetkililer, yapay zekanın biyolojik silah üretmek için kötüye kullanılması ve bunu azaltmak için düzenlemeye ihtiyaç duyulması konusunda giderek daha fazla endişe duyuyor. (Fotoğraf: Ignatiev)

Suçluların veya teröristlerin yapay zekayı kullanarak dünyayı yok edeceği endişesi, Kasım ayında İngiltere'de düzenlenecek küresel liderler zirvesinde sıcak bir konu olacak. İngiliz yetkililer, kötü güçlerin yeni teknolojiyi istismar etmesinin riskleri konusunda uyarıda bulunan ortak bir bildiri üzerinde fikir birliğine varmak için dünyayı dolaşıyor.

İngiliz Başbakanı'na yakın bazı yetkililer, teknolojinin bir noktada biyolojik veya insan kontrolünden kaçan silahlar üretecek kadar güçlü olacağından endişe ediyor. Artan endişe, riskleri azaltmak için düzenlemeler yapılmasını talep ediyor. Teknoloji liderleri yapay zeka geliştirmeyi durdurmayı kabul etseler de, rakipleriyle bir yapay zeka silahlanma yarışına girmiş durumdalar.

The Guardian'a göre, Kasım ayındaki zirvede "sınır yapay zekası"nın riskleri ele alınacak. Sınır yapay zekası, insan hayatını tehlikeye atabilecek en gelişmiş yapay zeka modellerini ifade etmek için kullanılan bir terim.

Birleşik Krallık hükümeti , bu haftanın başlarında konferansın yapay zekanın biyolojik silahlar, siber saldırılar veya insan kontrolü olmadan gelişmiş sistemler geliştirmek için kötüye kullanılması gibi risklere odaklanacağını doğruladı. Sayın Sunak, aylardır yapay zekanın oluşturduğu riskler konusunda uyarılarda bulunuyor ve uluslararası toplumu yapay zekanın kötüye kullanımını önlemek için "raylar" benimsemeye çağırıyor.

Geçtiğimiz yıl, yapay zekanın 40.000 farklı potansiyel olarak ölümcül molekül önermesi sadece altı saat sürdü ve bunlardan biri şimdiye kadar geliştirilmiş en güçlü sinir gazı olan VX'e benziyordu.

2023'ün başlarında araştırmacılar, ChatGPT'nin insanları belirli bir hedefe ulaşmak için kandırabileceğini keşfetti. Yapay zeka tabanlı sohbet robotu, bir insanı bir Captcha'yı (bir insanın mı yoksa bir botun mu manipüle ettiğini tespit etmek için kullanılan bir araç) çözmeye ikna etti.

Bir diğer önemli endişe ise, herhangi bir görevi insanlardan daha iyi veya en az onlar kadar iyi yerine getirebilen bir yapay zekâ sistemi olan "yapay genel zekâ"nın (YGZ) yükselişidir ve bu durum insanlık için potansiyel bir tehdit oluşturabilir. Bazıları YGZ'nin sadece birkaç yıl uzakta olduğuna inanıyor. Ancak YGZ uzmanları buna karşı çıkıyor ve kontrol edilemeyen YGZ'yi "bilim kurgu" olarak nitelendiriyor.

Bununla birlikte, Başbakan Sunak konferansı yapay zekanın sahte görseller oluşturması veya kamu politikası kararları almak için kullanıldığında ayrımcılığa yol açması gibi anlık olasılıklar yerine varoluşsal risklere dikkat çekmek için kullanmak isteyecektir.

Birleşik Krallık hükümeti, geliştirilmekte olan algoritmaların test edilmesine yardımcı olmak için yeni bir yapay zeka görev gücüne 100 milyon sterlin harcayacak. Küresel işletmeleri, yapay zeka araçlarını yaygın olarak kullanıma sunmadan önce değerlendirme için Birleşik Krallık'a göndermeye teşvik etmek istiyor.

İngiltere Başbakan Yardımcısı Oliver Dowden, en önemli ulusal güvenlik endişelerinin giderilmesinin yalnızca hükümet tarafından sağlanabileceğini söyledi.

Birleşik Krallık hükümet sözcüsü, yapay zekanın hayatın her alanını değiştirme potansiyelinin büyük olduğunu söyledi. Yapay Zeka Görev Gücü, teknolojinin güvenli ve sorumlu bir şekilde geliştirilmesini sağlamak için kuruldu. Yapay Zeka konferansı, bir dizi potansiyel riski ele alacak.

(The Guardian'a göre)

Dijital içerik telif hakkının korunmasında yapay zekanın kullanımı Dijital içeriğin güçlü gelişimiyle birlikte, telif hakkı ihlalleri de giderek daha acı verici hale geliyor. Yapay zekayı (YZ) entegre eden çözümler, internetteki dijital içerik telif hakkının korunmasına katkıda bulunacaktır.

[reklam_2]
Kaynak