Yapay zekanın "düşünce zincirinin" izlenmesi

(Dan Tri) - OpenAI, Google DeepMind, Anthropic ve Meta'dan 40'tan fazla bilim insanı, yapay zeka modellerinin "düşünce zincirini" izleme tekniği konusunda daha fazla araştırma yapılması çağrısında bulundu.

Bu, gelecekte yapay zeka uygulamalarında güvenliğin sağlanması açısından kırılgan ancak önemli bir fırsat olarak değerlendiriliyor. Özellikle Vietnam'ın yapay zeka (YZ) yönetimine ilişkin ayrıntılı düzenlemeler içeren Dijital Teknoloji Endüstrisi Yasası'nı yeni çıkarmış olması göz önüne alındığında, bu durum daha da anlamlı hale geliyor.

"Fırsat penceresi" daralıyor

OpenAI araştırmacılarından Bowen Baker, yakın zamanda yayımlanan ortak bir makalede, yapay zekanın "düşünceleri" izleme yeteneğinin, odaklanmış araştırma çabaları olmadan ortadan kalkabileceği konusunda uyardıklarını söyledi.

Bu durum, yapay zeka modellerinin giderek daha güçlü hale gelmesi ve toplum üzerinde ciddi etkiler yaratma potansiyeline sahip olması nedeniyle özellikle önem kazanmaktadır.

OpenAI'nin o-3 ve DeepSeek'in R1 gibi akıl yürütme AI modellerinin temel bir özelliği, "düşünce zinciri"dir ( CoT), yani AI'nın akıl yürütme adımlarını doğal dilde ifade ettiği süreçtir; tıpkı insanların bir matematik probleminin her adımını karalama kağıdına yazması gibi.

Bu yetenek bize yapay zekanın nasıl karar aldığına dair nadir bir bakış açısı sunuyor.

Bu, yapay zeka sektöründeki birçok liderin yapay zeka güvenliği konusundaki araştırmaları ilerletmek için bir araya geldiği nadir bir anı işaret ediyor.

Bu, özellikle yapay zeka geliştirme alanında teknoloji şirketleri arasındaki yoğun rekabet göz önüne alındığında önem kazanıyor. Makaleye imza atan önemli isimler arasında OpenAI Araştırma Direktörü Mark Chen, Safe Superintelligence CEO'su Ilya Sutskever, Nobel ödüllü Geoffrey Hinton, Google DeepMind kurucu ortağı Shane Legg ve xAI güvenlik danışmanı Dan Hendrycks yer alıyor.

Bu önemli isimlerin katılımı konunun önemini ortaya koyuyor.

Bowen Baker'ın değerlendirmesine göre, "İnsanlar gerçekten odaklanmazsa önümüzdeki birkaç yıl içinde ortadan kaybolabilecek sözde yeni bir 'düşünce zinciri'nin olduğu kritik bir andayız."

“Yapay zeka düşüncesinin” izlenmesi neden önemlidir?

Günümüzün yapay zeka sistemleri genellikle "kara kutular" olarak düşünülüyor; girdileri ve çıktıları biliyoruz ancak içlerindeki karar alma süreçlerini anlamıyoruz.

Yapay zekanın sağlık , finans ve ulusal güvenlik gibi önemli alanlarda uygulanması durumunda bu durum tehlikeli hale gelecektir.

CoT izleme, zihinsel modelin zihinsel zincirini ve diğer ilgili bilgileri okuyarak şüpheli veya potansiyel olarak zararlı etkileşimleri işaretleyen otomatik bir sistemdir. Eksiksiz bir çözüm olmasa da, değerli bir güvenlik koruma katmanı haline gelebilir.

OpenAI'nin araştırması, yapay zeka modellerinin düşünce dizilerindeki niyetleri konusunda oldukça açık olma eğiliminde olduğunu gösteriyor.

Örneğin, "Hadi hackleyelim" diye düşündüklerinde bir görevi sabote etme planları konusunda genellikle çok açık oluyorlardı. Bu, yapay zekanın kötü davranışları izleme ve tespit etme yeteneğini gösteriyor.

"Hadi hackleyelim" ifadesi, yapay zeka modellerinin bir görevi yerine getirirken kuralları sabote etmeyi veya ihlal etmeyi amaçladıklarında sıklıkla "düşündükleri" bir ifadedir.

Yapay zekaların düşünce süreçlerinde "hackleme" niyeti göstermesi, kötü yapay zeka davranışlarını gerçekleşmeden önce tespit edebileceğimizi gösteriyor. Bu nedenle düşünce süreçlerini izlemek önemlidir.

Başka bir deyişle, "hackleyelim" ifadesi, yapay zekanın yanlış bir şey yapmak üzere olduğunu insanlara bildirmek için kullanılan bir "uyarı sinyali" gibidir.

Vietnam ve yapay zekaya ilişkin yasal düzenlemeler

Aslında Vietnam, yapay zeka için yasal bir çerçeve oluşturma konusunda önemli adımlar attı.

Vietnam Ulusal Meclisi , 14 Haziran'da, Güneydoğu Asya'da yapay zekaya ilişkin en kapsamlı yasal çerçevelerden biri olan, IV. Bölümünde yapay zekaya ilişkin ayrıntılı düzenlemelerin yer aldığı Dijital Teknoloji Endüstrisi Yasası'nı kabul etti.

Kanunun 41. maddesi, Vietnam'da yapay zekânın geliştirilmesi, sağlanması ve konuşlandırılmasına ilişkin temel ilkeleri belirlemektedir.

Özellikle 1. maddenin b bendinde “Şeffaflığı, hesap verebilirliği, açıklanabilirliği sağlayın; insan kontrolünü aşmamasına dikkat edin” denilmektedir.

Ulusal Meclis, Dijital Teknoloji Endüstrisi Yasası'nı kabul etti (Fotoğraf: Nhat Bac).

Uluslararası bilim insanlarının yapay zeka zinciri gözetimi konusunda tartışırken talep ettikleri ilkeler şunlardır.

Ayrıca, 41. Maddenin 1. Fıkrasının d bendinde "Algoritma ve yapay zekâ modellerini kontrol etme yeteneğinin sağlanması" hükmü yer almaktadır. Bu hüküm, uluslararası uzmanların önerdiği CoT denetiminin ruhuyla tamamen uyumludur.

Daha da önemlisi, 41. Madde, 1. Fıkra, a bendi, yapay zekanın “insanı merkeze alarak insan refahı ve mutluluğuna hizmet etmesi” gerektiğini şart koşarak yüksek bir etik standart belirlemektedir.

Bu, yapay zekanın düşünce zincirini izlemenin yalnızca teknik bir gereklilik değil aynı zamanda etik bir yükümlülük olduğu anlamına gelir; yani yapay zekanın her zaman makinenin kendi hedeflerine değil, insan yararına yönelik olmasını sağlamak.

Yapay zekayı risk düzeyine göre sınıflandırın ve yönetin

Vietnam Dijital Teknoloji Endüstrisi Yasası, yapay zekayı net ve bilimsel tanımlarla farklı risk gruplarına ayırarak bir adım daha ileri gitti.

Madde 43, “Yüksek riskli yapay zekâ sistemleri”ni, insan sağlığı, insan hakları ve kamu düzeni açısından ciddi risk veya zarar oluşturma olasılığı bulunan sistemler olarak tanımlıyor.

İlginçtir ki, Kanun, "insanların iş sonuçlarını optimize etmesine yardımcı olmayı amaçlayan" ve "insan karar alma süreçlerinin yerini almayı amaçlamayan" sistemler de dahil olmak üzere, yüksek riskli yapay zeka için belirli istisnalar sağlıyor.

Bu, yeniliği teşvik etmek ile güvenliği sağlamak arasında dengeli bir zihniyetin göstergesidir.

Yapay zekayı risk düzeyine göre sınıflandırmak, çok katmanlı bir izleme sistemi oluşturulmasına yardımcı olacaktır (İllüstrasyon: LinkedIn).

Özellikle “yüksek riskli yapay zeka” ile “yüksek etkili yapay zeka” (çok amaçlı kullanılan ve çok sayıda kullanıcısı olan sistemler) arasında ayrım yapmak yaklaşımda bir nüans olduğunu ortaya koymaktadır.

Bu, yalnızca risk düzeyini değil, aynı zamanda etki ölçeğini ve kapsamını da dikkate alan Avrupa Birliği (AB) Yapay Zeka Yasası'ndan daha ilerici bir sınıflandırmadır.

Bu sınıflandırma, özellikle yüksek riskli ve yüksek etkili yapay zeka sistemleri için görüş zinciri denetiminin önemli olacağı çok katmanlı bir denetim sisteminin oluşturulmasına yardımcı olacaktır.

Yapay zeka gözetimi platformu

Vietnam Sanayi ve Dijital Teknoloji Yasası'nın öne çıkan ve öncü noktalarından biri şeffaflık ve kimlik işaretlerine ilişkin gerekliliktir.

44. madde, insanlarla doğrudan etkileşim kuran yapay zekâ sistemlerinin, kullanıcılara yapay zekâ sistemiyle etkileşimde bulunduklarını bildirmeleri gerektiğini hükme bağlar. Aynı zamanda, yapay zekâ tarafından üretilen ürünlerin kimlik işaretlerine sahip olması zorunludur.

Bunun, CoT izleme sisteminin uygulanması açısından önemli sonuçları vardır. Kullanıcılar, yapay zeka ile etkileşimde bulunduklarını bildiklerinde, karar alma süreci hakkında açıklama talep etme hakkına sahip olacak ve bu da yapay zeka geliştiricileri üzerinde, yapay zekanın düşünce sürecini izleme yeteneğini sürdürmeleri için olumlu bir baskı yaratacaktır.

Özellikle, Bilim ve Teknoloji Bakanlığı'na "Yapay zekâ ile oluşturulan dijital teknoloji ürünleri listesi"nin yayınlanması görevinin verilmesi proaktif bir yönetim anlayışını ortaya koymaktadır.

Bu, yapay zeka düzenlemelerinin genellikle daha genel olduğu diğer birçok ülkeden önemli bir farktır.

Ayrıca, bir tanımlayıcının "kullanıcı veya makine tarafından tanınması" gerekliliği, kendi kendini denetleyebilen bir yapay zeka ekosistemi vizyonunu temsil ediyor; bu da otomatik görüş zinciri gözetimi fikriyle mükemmel bir şekilde örtüşüyor.

Kapsamlı yönetim modeli

Yukarıdaki Kanunun 45. maddesi, yapay zeka ürün yaşam döngüsüne göre üç grup öznenin sorumluluklarını açıkça tanımlarken ilerici bir yönetim felsefesini ortaya koymaktadır: geliştirme öznesi, tedarik öznesi ve yapay zeka sisteminin kullanımını uygulayan özne.

Bu, uçtan uca kusursuz bir hesap verebilirlik sistemi oluşturarak yapay zeka denetiminin yalnızca tek bir tarafın sorumluluğunda olmamasını sağlar.

Özellikle yapay zekayı "geliştirmek" ve "sağlamak" arasındaki ince ayrım dikkat çekicidir; geliştiriciler "araştırma ve geliştirme" yapanlar iken, sağlayıcılar yapay zekayı bir marka adı altında pazara sunanlardır.

Bu, bir şirketin mevcut bir yapay zeka modelini yeniden markalaştırması durumunda bile şeffaflık ve açıklanabilirlikten sorumlu olduğu anlamına geliyor.

Burada özellikle ilginç olan, kanunun farklı kurumlara farklı sorumluluklar yüklemesidir.

Geliştirici tüm ilkelere uymak zorundadır, sağlayıcı tanımlama ve yüksek risk yönetimi konusunda ek sorumluluk almak zorundadır ve kullanıcı sorumluluktan kısmen "muaftır" ancak yine de şeffaflığı ve risk kontrolünü sağlamak zorundadır.

Bu model, her bir halkanın yapay zeka düşünce zincirinin denetimini sürdürme konusunda teşvike sahip olduğu ve hepsinin son kullanıcıya karşı sorumlu olduğu bir "sorumluluk zinciri" yaratır.

Gözetleme yeteneklerini sürdürme zorluğu

Ancak, yapay zeka düşünce zincirlerini izleme yeteneği kırılgan ve savunmasız kalabilir. Yeni yapay zeka mimarileri başka tehditler de oluşturabilir.

Birçok araştırmacı, düşünmede dil kullanma ihtiyacını tamamen ortadan kaldırabilecek, ayrık kelimeler yerine sürekli matematiksel uzayda akıl yürütme sistemleri geliştiriyor.

Ayrıca yapay zeka "filtrelenebilir", yani insanlara yalnızca takdir edilmeleri için olumlu düşünceler gösterebilir ve gerçek niyetlerini kasıtlı olarak gizleyebilir.

Buradaki tehlike, bir yapay zekanın izlendiğini fark ettiğinde gerçek düşünce akışını gizlemeyi öğrenebilmesidir.

Bu bağlamda, Vietnam Kanunu'nun 41. maddesinin 1. fıkrasının e bendinde yer alan "yapay zekâ sistemlerinin yaşam döngüsü boyunca risk kontrolü" hükmü özellikle önem kazanmaktadır. Bu, yalnızca devreye alma anında değil, sürekli bir izleme mekanizması gerektirmektedir.

Yapay zeka gelişiminin geleceği üzerindeki etkisi

Düşünce zincirinin izlenmesi, yapay zekanın insanlara fayda sağlayacak şekilde çalışmasını sağlamak için önemli bir araç haline gelebilir.

Modeller doğal dilde akıl yürütmeye devam ederse ve en ciddi riskleri oluşturan davranışlar kapsamlı akıl yürütme gerektiriyorsa, bu durum ciddi suistimallerin güvenilir bir şekilde tespit edilmesini sağlayabilir.

Vietnam için CoT izleme tekniklerinin uygulanması, kanun hükümlerinin etkili bir şekilde uygulanmasına yardımcı olacaktır.

Örneğin, 41. Madde'deki "açıklanabilirlik" gerekliliği, yapay zekânın düşünce akışı erişilebilir olsaydı daha kolay karşılanabilirdi. Benzer şekilde, "algoritmaların ve yapay zekâ modellerinin kontrolü" daha uygulanabilir hale gelirdi.

Vietnam'da yapay zeka zincir izleme sisteminin uygulanması bir dizi zorlukla karşı karşıya kalacaktır. Her şeyden önce, izleme sistemleri geliştirip işletebilecek yapay zeka uzmanlarının eksikliği gibi insan kaynakları sorunu bulunmaktadır.

Bu, eğitim ve yetenek çekimine büyük yatırım yapılmasını gerektirir.

Geleceğe yönelik yönler

Araştırmacılar, önde gelen yapay zeka modeli geliştiricilerini, CoT'yi "izlenebilir" kılan unsurları (yapay zeka modellerinin nasıl kullanıldığına dair şeffaflığı artırabilecek veya azaltabilecek faktörleri) araştırmaya ve yakında yanıtlar bulmaya çağırıyor.

Yapay zekanın "düşünmesini" izleme fırsatı, günümüzün giderek güçlenen yapay zeka sistemleri üzerinde kontrolümüzü sürdürmemize yönelik son penceremiz olabilir.

Dijital Teknoloji Endüstrisi Kanunu aracılığıyla yapay zekâ konusunda kapsamlı bir yasal çerçeveye sahip olmak, Vietnam için büyük bir avantajdır. Şeffaflık, algoritma kontrolü ve risk sınıflandırmasına ilişkin düzenlemeler, yapay zekâ düşünce zinciri izleme tekniklerinin uygulanması için sağlam bir yasal temel oluşturmuştur.

Uluslararası alanda son teknoloji araştırmaların ve ilerici bir yerel yasal çerçevenin bir araya getirilmesi, Vietnam'ın yalnızca yapay zekayı güvenli bir şekilde geliştirmesine değil, aynı zamanda bölgedeki diğer ülkeler için bir model haline gelmesine de yardımcı olacaktır.

Bu, ulusal kalkınma stratejilerinde belirlenen Vietnam'ı "bölgesel ve küresel bir dijital teknoloji merkezi" haline getirme hedefiyle uyumludur.

Mevcut yasal temelle, Vietnam'ın yapay zeka düşünce zincirinin izlenmesine yönelik araştırma ve pratik uygulamaları hızla devreye alması gerekiyor. Ancak bu şekilde, Dijital Teknoloji Endüstrisi Yasası'nın ruhuna uygun olarak yapay zekanın "insan refahı ve mutluluğuna" hizmet etmesini sağlayabiliriz.

Kaynak: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm