Yapay zeka için güvenlik standartlarının bulunması

SGGP 31/07/2023 09:35

Avrupa'nın yapay zekâ (YZ) konusunda dünyanın ilk yasasını tasarlamaya başlamasının ve kısa süre sonra yürürlüğe koymasının ardından, ABD'nin önde gelen dört internet veri madenciliği "devi" Frontier Model Forum adında bir grup kurdu.

Frontier Model Forum'un temel amacı, sorumlu yapay zekayı teşvik etmektir. Fotoğraf: THINKWITHNICHE

Taraflar bir araya geliyor

Anthropic, Google, Microsoft ve ChatGPT'nin sahibi OpenAI'yi içeren grup, Frontier Model Forum'un temel hedeflerinin yapay zeka platformlarının oluşturduğu riskleri azaltmaya ve sektör standartlarını geliştirmeye yardımcı olmak olduğunu belirtti. Frontier Model Forum, aşağıdaki temel hedeflere sahip yeni bir forum oluşturacak: Yapay zeka güvenliği araştırmalarını teşvik ederek geliştirmeyi desteklemek, riskleri azaltmak ve güvenlik değerlendirmelerini ve seviyelerini standartlaştırmak; model geliştirme ve dağıtımı için en iyi uygulamaları belirlemek ve kamuoyunun teknolojinin doğasını, yeteneklerini, sınırlamalarını ve etkilerini anlamasına yardımcı olmak; ve riskler ve güvenlik hakkında bilgi paylaşımı için politika yapıcılar, akademisyenler, sivil toplum ve şirketlerle iş birliği yapmak.

Teknoloji devleri geleneksel olarak artan düzenlemelere direndiler, ancak bu sefer teknoloji sektörü yapay zekanın oluşturduğu riskler konusundaki duruşunu büyük ölçüde değiştirdi. Frontier Model Forum girişimine katılan şirketler, en iyi uygulamaları şirketler arasında paylaşma ve bilgileri hükümetler ve sivil toplumla paylaşma sözü verdi.

Frontier Model Forumu, özellikle yapay zekayı yeni bir karmaşıklık düzeyine taşıyan, büyük ölçekli ancak henüz yeni olan makine öğrenimi platformlarına odaklanacak; bu da potansiyel bir risk faktörüdür. Ayrıca, Frontier Model Forumu, iklim değişikliğinin azaltılması ve adaptasyonu, erken kanser teşhisi ve önlenmesi ve siber tehdit koruması gibi önemli toplumsal zorlukları ele alan uygulamaların geliştirilmesini de destekleyecektir.

Potansiyel yıkıma yer var

ABD şirketlerinin Frontier Model Forumu duyurusu, ABD senatörlerinin 25 Temmuz'da ABD Senatosu Yargı Komitesi alt komitesinde yapılan bir duruşmada yapay zekanın biyolojik saldırılarda kullanılma riski konusunda uyarıda bulunmasından birkaç gün sonra geldi. Son zamanlarda, OpenAI, Alphabet ve Meta da dahil olmak üzere yedi büyük teknoloji şirketi, yapay zeka tarafından oluşturulan metin, resim, ses ve video gibi tüm içerikleri etiketleyerek kullanıcılara bilgi şeffaflığı sağlayan ve bu teknolojinin daha güvenli olmasını sağlayan bir sistem geliştirmek için Beyaz Saray'a gönüllü olarak taahhütte bulundu.

AI Anthropic CEO'su Dario Amodei, yapay zekanın henüz biyolojik silah üretebilecek kapasitede olmadığını, ancak önümüzdeki iki ila üç yıl içinde ABD ulusal güvenliği için ciddi bir tehdit oluşturabilecek "orta vadeli" bir risk olduğunu belirtti. Bunun nedeni, büyük ölçekli biyolojik saldırıları gerçekleştiren aktörlerin artık yalnızca bu konuda uzmanlaşmış kişilerle sınırlı olmaması.

Dünya, üretken yapay zeka teknolojisiyle üretilen içerik patlamasıyla karşı karşıya. ABD'den Avrupa'ya ve Asya'ya kadar düzenleyici adımlar giderek sıkılaşıyor. CNN'e göre, Eylül ayından itibaren ABD Senatosu, üyelerin yapay zekanın işleri, ulusal güvenliği ve fikri mülkiyeti nasıl etkileyebileceğini öğrenmeleri için dokuz ek atölye çalışması düzenleyecek. ABD'den önce, bir anlaşmaya varılırsa, Avrupa Birliği gelecek yıl yapay zeka yönetimiyle ilgili dünyanın ilk yasasını çıkaracak ve bu yasanın 2026'da yürürlüğe girmesi bekleniyor.

Yapay zekânın topluma sağladığı faydalar inkâr edilemez, ancak bu yeni teknolojinin potansiyel riskleri konusunda giderek artan uyarılar var. Haziran ayında, BM Genel Sekreteri Antonio Guterres, Uluslararası Atom Enerjisi Ajansı'na (UAEA) benzer şekilde uluslararası bir yapay zekâ gözlemcisi kurulması yönündeki birkaç yapay zekâ yöneticisinin önerisini destekledi.

Microsoft Başkanı Brad Smith, Frontier Model Forumu'nda yaptığı konuşmada, girişimin teknoloji şirketlerini bir araya getirerek tüm insanlığın yararına yapay zekanın sorumlu kullanımını teşvik etmede önemli bir adım olduğunu söyledi. Benzer şekilde, OpenAI Küresel İşler Başkan Yardımcısı Anna Makanju da gelişmiş yapay zeka teknolojisinin topluma derin faydalar sağlama potansiyeline sahip olduğunu ve bunun denetim ve yönetişim gerektirdiğini söyledi.

Kaynak: https://www.sggp.org.vn/tim-tieu-chuan-an-toan-cho-tri-tue-nhan-tao-post699667.html