Yeni yapay zeka biyolojik silah yaratmak için kullanılabilir

:OpenAI'nin GPT-o1 öğrenme arayüzünü gösteren telefon - Fotoğraf: FINANCIAL TIMES

Financial Times'ın 13 Eylül tarihli haberine göre, OpenAI şirketi, 12 Eylül'de piyasaya sürülen GPT-o1 modelinin, yapay zekanın (YZ) biyolojik silah yaratmak için kullanılma riskini "önemli ölçüde" artırdığını kabul etti.

OpenAI tarafından yayınlanan ve GPT-o1'in nasıl çalıştığını açıklayan bir belgede, yeni modelin kimyasal, biyolojik, radyolojik ve nükleer silahlarla ilgili sorunlar için "orta risk seviyesi"ne sahip olduğu belirtiliyor. Bu, OpenAI'nin yapay zeka modellerine atadığı en yüksek risk seviyesi.

OpenAI'ye göre bu, GPT-o1'in, biyolojik silah yaratmak için bu teknolojileri kullanmak isteyen uzmanların yeteneklerini "dramatik bir şekilde artırabileceği" anlamına geliyor.

OpenAI'nin baş teknoloji sorumlusu (CTO) Mira Murati, GPT-o1'in hala test aşamasında olmasına rağmen, modelin gelişmiş yeteneklerinin şirketin kamuoyuna sunduğu yol haritası konusunda son derece "temkinli" olmasını gerektirdiğini söyledi.

Murati ayrıca, şirket tarafından geliştirilen modelin sınırlarını test etmek üzere OpenAI tarafından işe alınan çok disiplinli bir uzman ekibi tarafından modelin kapsamlı bir şekilde test edildiğini doğruladı.

Murati, test sürecinin GPT-o1 modelinin genel güvenlik kriterlerini önceki modellere göre çok daha iyi karşıladığını gösterdiğini belirtti.

OpenAI temsilcileri bununla da kalmayıp GPT-o1'in deneme sürümünün "dağıtım için güvenli" olduğunu ve geliştirilen teknolojilerden daha karmaşık riskler yaratamayacağını da vurguladı.

Yukarıdaki güvencelere rağmen bilim camiasının ve yapay zekaya ilgi duyanların büyük bir kısmı, bu teknolojinin gelişim yönü konusunda hâlâ çok iyimser değil.

Yapay zekanın çok hızlı geliştiği ve onu yöneten düzenlemelerin geliştirilmesi ve onaylanmasından daha hızlı ilerlediği yönündeki endişeler artıyor.

Montreal Üniversitesi'nde bilgisayar bilimleri alanında uzman ve dünyanın önde gelen yapay zeka bilim insanlarından biri olan Profesör Yoshua Bengio, OpenAI'nin artık kimyasal ve biyolojik silahlar açısından "orta düzeyde bir risk" oluşturması durumunda, Kaliforniya'da bu alanı düzenlemek için hararetle tartışılan yasa gibi yasaların "önemini ve aciliyetini daha da pekiştirdiğini" söyledi.

Bu bilim insanı, yapay zekânın giderek insanlarla eşit düzeyde akıl yürütme yeteneğine sahip olması anlamına gelen yapay genel zekâ (AGI) düzeyine yaklaştığı bir ortamda, yukarıda belirtilen kurumların özellikle gerekli olduğunu vurguladı.

Bay Bengio, "Öncü yapay zeka modelleri yapay zekaya (AI) ne kadar yaklaşırsa, uygun önlemler alınmazsa riskler o kadar artacaktır. Yapay zekanın gelişmiş muhakeme yeteneği ve dolandırıcılık amacıyla kullanımı son derece tehlikelidir," değerlendirmesinde bulundu.

Kaynak: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm