OpenAI'nin yeni modeli biyolojik silah yaratma riskini artırıyor

Modelin akıl yürütme, karmaşık matematiksel problemleri çözme ve bilimsel araştırma sorularını yanıtlama yeteneği, insan benzeri bilişsel yeteneklere sahip makineler olan yapay genel zekayı (AGI) geliştirme çabalarında önemli bir adım olarak görülüyor.

OpenAI, gelişmiş yetenekleri göz önüne alındığında o1 modelini kamuoyuna sunarken özellikle "dikkatli" davrandığını söyledi. Fotoğraf: Getty Images

Financial Times'a göre, OpenAI bu yeni modellerin kimyasal, biyolojik, radyolojik ve nükleer (KBRN) silahlarla ilgili sorunlar için riskini "orta" olarak derecelendirdi; bu, şirketin şimdiye kadar değerlendirdiği en yüksek değer. Bu, teknolojinin uzmanların biyolojik silah yaratma becerisini "önemli ölçüde iyileştirdiği" anlamına geliyor.

Uzmanlar, özellikle kötü niyetli kişilerin elinde detaylı muhakeme yeteneğine sahip yapay zeka yazılımlarının kötüye kullanım riskini artırabileceğini söylüyor.

Montreal Üniversitesi'nden dünyaca ünlü yapay zeka bilimcisi Profesör Yoshua Bengio, bu orta risk seviyesinin, şu anda Kaliforniya'da tartışılan SB 1047 gibi yapay zeka düzenlemelerinin aciliyetini artırdığını vurguladı. Bu yasa tasarısı, yapay zeka üreticilerinin, modellerinin biyolojik silah geliştirmek için kötüye kullanılma riskini azaltmak için önlemler almasını gerektiriyor.

The Verge'e göre, Google, Meta ve Anthropic gibi teknoloji şirketleri gelişmiş yapay zeka sistemleri inşa etmek ve geliştirmek için yarışırken, yapay zeka modellerinin güvenliği ve emniyeti büyük bir endişe haline geldi.

Bu sistemler, insanların görevlerini tamamlamalarına ve çeşitli alanlarda yardımcı olmalarına büyük faydalar sağlama potansiyeline sahip olmakla birlikte, güvenlik ve sosyal sorumluluk açısından zorluklar da yaratmaktadır.

Cao Phong (FT, Reuters, The Verge'e göre)

Kaynak: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html