Yapay Zeka: Daha güçlü sistemler geliştirmeye odaklanmak yerine güvenliği artırmalıyız.

Yapay zekayı daha güçlü hale getirmek için sadece geliştirmeye odaklanmak yerine, yapay zeka konusunda dünyanın önde gelen uzmanları, insanların kendilerinden daha akıllı bir varlık olan yapay zeka ile nasıl yaşayacaklarını acilen düşünmeleri gerektiği konusunda uyarıyor. Bu varlık, onun insanlardan kontrolü ele geçirmesini engelliyor.

VinFuture 2025 Bilim ve Teknoloji Haftası kapsamında düzenlenen “İnsanlık için yapay zeka: Yeni dönemde yapay zeka etiği ve güvenliği” başlıklı panel, bilim insanlarını , politikacıları ve mucitleri bir araya getirerek , insani değerler doğrultusunda sorumlu yapay zeka gelişimini ele alıyor.

Acilen, kendinizden daha akıllı bir varlık olan yapay zeka ile nasıl yaşayacağınızı düşünün

Seminerde konuşan Avustralya, New South Wales Üniversitesi'nden ve Amerikan Bilgisayar Birliği Akademisyeni Profesör Toby Walsh, "Yapay zekanın sorumlu bir şekilde kullanılmasının zorunlu olması gerektiğine kesinlikle inanıyorum. Günümüzde yapay zeka sayesinde büyük miktarda para kazanıldığı için birçok olumsuz teşvik mevcut ve doğru davranışı sağlamanın tek yolu, kamu çıkarlarının her zaman ticari çıkarlarla dengelenmesini sağlayacak sıkı düzenlemeler uygulamaktır." dedi.

Amerika Birleşik Devletleri'nde yargılama ve cezalandırma gibi önemli kararların tipik bir örneğini verdi. Bu örnekte, bir yapay zeka sistemi, bir kişinin hapis cezası ve tekrar suç işleme olasılığı hakkında önerilerde bulunmak için kullanılıyordu. Ne yazık ki, bu sistem tarihsel verilerle eğitilmişti ve istemeden geçmişteki ırksal önyargıları yansıtarak siyahi insanlara karşı ayrımcılığa yol açmıştı.

Profesör Toby Walsh, New South Wales Üniversitesi, Avustralya, Amerikan Bilgisayar Derneği Üyesi.

Dolayısıyla yapay zeka sistemlerini kuran ve işleten şirketler, bu “makinelerin” yol açtığı sonuçlardan sorumlu tutulmalıdır.

VF 2024 ana ödülünün sahibi Profesör Geoffrey Hinton, yapay zekanın tehlikeli virüsler, siber saldırılar ve seçimleri aksatmak için sahte videolar tasarlama konusunda giderek daha iyi hale geldiğinden endişe duyuyor. Önümüzdeki 20 yıl içinde yapay zeka bizden daha akıllı hale gelecek ve insanların kontrolünü ele geçirmesini nasıl engelleyeceğimizi bilemeyeceğiz.

Bu nedenle Profesör, "Acilen kendimizden daha akıllı varlıklarla nasıl yaşayacağımızı düşünmeliyiz. Bu, insanlığın daha önce hiç karşılaşmadığı bir durum, yeni ve bu gerçekleşmeden önce çok sayıda araştırma yapmamız gerekiyor." diye vurguladı.

Yapay zeka risklerini sınırlamak için uluslararası iş birliğinin artırılması gerekiyor

VinFuture 2024 ana ödülünü kazanan Profesör Yoshua Bengio da aynı endişeyi dile getirerek, yapay zeka modellerinin, yeteneklerinin ve özerklik seviyelerinin hala hızlı ve istikrarlı bir şekilde geliştiğini söyledi. Bu eğilim devam ederse, otonom yapay zeka sistemleri sadece 5-10 yıl içinde çoğu bilişsel görevde insanlardan daha iyi performans gösterebilir.

Bu, yaşam kalitemizi önemli ölçüde artırabilecek tarihi bir dönüm noktası olacaktır. Ancak dikkatli davranılmazsa, demokrasi, jeopolitik istikrar ve hatta insanlığın geleceği için büyük riskler de doğurabilir.

"Gelişmiş yapay zekayı sadece güçlendirmeye odaklanmak yerine, güvenliğini de artırmalıyız. Güvenlik ve güven, insanlığın yararına olan gelişim sürecinde ikincil faktörler değil, olmazsa olmazlardır. Hem politika hem de bilimsel düzeyde birlikte hareket etmemiz gerekiyor." dedi.

Profesör Yoshua Bengio - VinFuture 2024 ana ödülünün sahibi.

Bu bilim insanı, politika açısından dünyanın uluslararası iş birliğine ihtiyaç duyduğunu öne sürüyor. Bilimsel açıdan ise, hem yetenek açısından üstün hem de insanlara zararsız bir yapay zekanın nasıl tasarlanacağını, insanlar yanlış yapmasını istediğinde bile güvenli bir şekilde davranmasını sağlayacak şekilde kontrol etme becerisinin nasıl korunacağını ve yapay zekanın insan normları, niyetleri, değerleri ve çıkarlarıyla uyumlu olmasını sağlayacak teknik ve sosyal engellerin nasıl oluşturulacağını daha iyi anlamak gerekiyor.

Dr. Vinton Grey Cert (Google'da İnternet Evanjelizminden Sorumlu Başkan Yardımcısı ve Direktörü - VF 2022 Büyük Ödül Sahibi) da aynı fikirde: Yapay zekâyı sorumlu tutmalı, özellikle bir şeyler ters gittiğinde ne yaptıklarını, ne zaman yaptıklarını bilmek için bir gözetim zinciri oluşturmalıyız. İnsanlar için geçerli olan ilkelerin çoğu, çevrimiçi ortamdaki yapay zekâ ajanları için de geçerli olacaktır.

"Eş zamanlı olarak, güçlü kimlik tespiti, bilgiyi güvence altına almak için kriptografi, hesap verebilirliği sağlamak için mekanizmalar uygulama ve kimliklerin başkaları tarafından ele geçirilmesini önleme gibi yeni normlar oluşturmamız gerekiyor. Riskleri en başından sınırlamak için teknolojiyi kullanmalı ve topluma ve topluma zarar verdiği tespit edilen herkesin bu davranışının sonuçlarına katlanması gerektiğini açıkça belirtmeliyiz. Bu, uluslararası iş birliği gerektirir." dedi.

Vietnam'ın yapay zeka verilerini oluşturmada kendi yolunu bulması gerekiyor.

Nanyang Teknoloji Üniversitesi (Singapur) ve VinUni Üniversitesi'nden (Vietnam) Doçent Luu Anh Tuan, diğer ülkelerin yaklaşık 10 yıllık veri setlerine sahip olduğunu, ancak Vietnam'ın sıfırdan başladığını söyledi. Bu nedenle, en başından itibaren sürdürülebilir veriler oluşturabilir, temiz, etik ve kültürel olarak uygun veriler sağlayabiliriz.

Ancak Vietnam için en büyük zorluk, Vietnam dilinin kendine özgü yapısıdır. Çeşitli bir lehçe sistemimiz, zengin bir bölgesel kültürümüz ve son derece karmaşık hitap biçimlerimiz var. ChatGPT veya Gemini gibi büyük modeller Vietnamcayı desteklese de, Vietnam lehçesini, geleneklerini veya tarihini anlamadıkları için kaliteleri çok derin değildir.

Vietnam'ın kendi Vietnam modelini oluşturması gerekiyor. Ayrıca, küçük işletmelerin kullanıp katkıda bulunabileceği açık kaynaklı bir model geliştirmeliyiz. "Yalnızca 'kara kutu' biçimindeki yabancı modellere güvenirsek, yapay zeka geliştiricisi değil , yalnızca yapay zeka kullanıcısı oluruz ," dedi.

Doçent Dr. Luu Anh Tuan ve meslektaşları şu anda Vietnam yapay zeka verilerini oluşturuyor. Lehçe, tarih ve kültür gibi faktörler odak noktası olarak dikkate alınmalıdır.

Ayrıca yabancı ülkelerde öğrencilere yapay zeka konusunda çok erken eğitim verildiğini, Vietnam'ın henüz buna başladığını, ancak öğrenerek ve buna göre ayarlamalar yaparak hızlandırabileceğimizi söyledi.

"Genç Vietnamlılar çok dinamik; sadece dijital sorumluluk konusunda tam olarak eğitilmeleri gerekiyor. Veri kalitesini ve etik standartları onaylayıp standartlaştıracak birleşik bir kuruma sahip olmalıyız. VinUni ayrıca etik standartlar sistemi oluşturma konseyinde yer alıyor ve bu sürece katkıda bulunmaya devam edecek," dedi.

Doçent Luu Anh Tuan, Nanyang Teknoloji Üniversitesi (Singapur), VinUni Üniversitesi (Vietnam).

Vietnam'ın 2030 yılına kadar yapay zekâ alanında bölgede lider olmasını hedefleyen doğrudan yabancı yatırım stratejisine yanıt olarak, Doçent Tuan, Vietnam'ın matematik, fizik ve kimya alanlarındaki uluslararası başarılarıyla kanıtlanmış yüksek kaliteli insan kaynaklarına sahip olduğuna inanıyor. Güçlerimizi nasıl birleştireceğimizi ve güçlü politikalar geliştireceğimizi bilirsek, 2030 hedefine tamamen ulaşılabilir.

Profesör Toby Walsh, Vietnam'ın insanlara yatırım yapmasını ve insanların becerilerini proaktif olarak geliştirmesini, yapay zekayı anlamalarını sağlamasını ve yapay zeka girişimcilerini, işletmelerini ve üniversitelerini desteklemesini tavsiye ediyor. Diğer ülkelerin teknoloji transfer etmesini veya bize rehberlik etmesini beklemek yerine, proaktif olmalı ve teknolojiye hakim olmalıyız.

Ayrıca Vietnam'ın, ülke demokrasisini etkilemeden, yerel kullanıcılar için güvenli bir ortam yaratmak amacıyla sosyal paylaşım platformlarını güçlü bir şekilde harekete geçirmesi gerekiyor.

THAO LE-THIEN LAM

Kaynak: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html