Yeni yapay zekâ, biyolojik silah üretmek için kullanılabilir.

Telefonda OpenAI'nin GPT-o1'i hakkında bilgi edinmeye yönelik arayüz gösteriliyor - Fotoğraf: FINANCIAL TIMES

Financial Times'ın 13 Eylül tarihli haberine göre, OpenAI, 12 Eylül'de piyasaya sürdüğü GPT-o1 modelinin, yapay zekanın (YZ) biyolojik silah üretmek için kullanılma riskini "önemli ölçüde" artırdığını kabul etti.

OpenAI'nin GPT-o1'in nasıl çalıştığını açıklayan dokümanı, yeni modelin kimyasal, biyolojik, radyolojik ve nükleer silahlarla ilgili konularda "orta risk seviyesine" sahip olduğunu doğruluyor. Bu, OpenAI'nin yapay zeka modellerine şimdiye kadar atadığı en yüksek risk seviyesidir.

OpenAI'ye göre bu, GPT-o1'in uzmanların kötüye kullanım amaçlı biyolojik silah üretme yeteneğini "önemli ölçüde geliştirebileceği" anlamına geliyor.

OpenAI'nin Baş Teknoloji Sorumlusu (CTO) Mira Murati, GPT-o1'in hala test aşamasında olmasına rağmen, bu modelin gelişmiş yeteneklerinin, şirketin onu halka sunma yol haritası konusunda son derece "temkinli" davranmasını gerektirdiğini söyledi.

Bayan Murati ayrıca, modelin çok disiplinli bir uzman ekibi tarafından kapsamlı bir şekilde test edildiğini de belirtti. Bu kişiler, OpenAI tarafından şirketin geliştirdiği modelin sınırlamalarını incelemek üzere görevlendirilmişti.

Murati, test sürecinin GPT-o1 modelinin genel güvenlik kriterlerini önceki modellere göre çok daha iyi karşıladığını gösterdiğini belirtti.

Ayrıca, OpenAI temsilcileri GPT-o1 deneme sürümünün "kullanıma hazır" olduğunu ve halihazırda geliştirilmiş teknolojilerden daha karmaşık riskler yaratamayacağını teyit etti.

Bu güvencelere rağmen, bilim camiasının ve yapay zeka meraklılarının büyük bir bölümü bu teknolojinin geleceği konusunda büyük ölçüde karamsar kalmaya devam ediyor.

Yapay zekanın çok hızlı gelişmesi ve onu düzenleyen yönetmeliklerin geliştirilme ve onaylanma hızını geride bırakmasıyla ilgili endişeler giderek artıyor.

Montreal Üniversitesi'nde bilgisayar bilimleri uzmanı ve dünyanın önde gelen yapay zeka bilimcilerinden biri olan Profesör Yoshua Bengio, OpenAI'nin şu anda kimyasal ve biyolojik silahlar açısından "orta düzeyde risk" oluşturması durumunda, bunun Kaliforniya'da hararetle tartışılan yasa tasarısı gibi düzenlemelerin "önemini ve aciliyetini daha da güçlendirdiğini" söyledi.

Bu bilim insanı, yapay zekanın giderek evrensel yapay zeka (AGI) seviyesine, yani insanlarla eşdeğer akıl yürütme yeteneğine yaklaştığı bir bağlamda bu kurumların özellikle gerekli olduğunu vurguladı.

Bengio, "Öncü yapay zeka modelleri genel yapay zekaya ne kadar yaklaşırsa, gerekli önlemler alınmadığı takdirde riskler de o kadar artar. Yapay zekanın muhakeme yeteneklerindeki gelişme ve bunun dolandırıcılık amacıyla kullanılma potansiyeli son derece tehlikelidir," şeklinde değerlendirmede bulundu.

Kaynak: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm