Antropik uyarı

Anthropic, dünyanın en büyük yapay zeka şirketlerine, bir sonraki gelişmiş modelin geliştirilmesini geçici olarak durdurmaları çağrısında bulundu ve bunun insan kontrolünden çıkabileceği konusunda uyardı.

Anthropic, yeni gelişmiş yapay zeka sistemlerinin geliştirilmesinde bir duraklama çağrısında bulunuyor. Fotoğraf: Bloomberg .

Anthropic, 4 Haziran tarihli bir blog yazısında, dünya çapında gelişmiş yapay zekânın geliştirilmesinin yavaşlatılmasının veya durdurulmasının "iyi bir şey olabileceğini" öne sürdü. Ancak şirket, tek bir kuruluşun bile durması durumunda rakiplerin ilerlemeye devam edeceği konusunda uyardı.

Anthropic, "Dünyanın, yapay zeka güvenliği üzerine yapılan araştırmaların ve sosyal yapıların teknolojik gelişmenin hızına ayak uydurabilmesi için, gelişmiş yapay zekanın gelişimini yavaşlatma veya geçici olarak durdurma seçeneğine sahip olması gerektiğine inanıyoruz" dedi.

Anthropic'i en çok endişelendiren şey, yapay zekanın insan müdahalesi olmadan kendisinin bir sonraki sürümünü tasarlayıp, inşa edip ve eğittiği "özyinelemeli kendi kendini geliştirme" senaryosudur.

Jack Clark ve Anthropic'in iç araştırma enstitüsünün başkanı Marina Favaro'nun ortak yazarlığını yaptığı makale, şirketin sistemlerine giren kodun %80'inden fazlasının şu anda Claude tarafından yazıldığını ortaya koyuyor. Mühendisler, 2025 öncesine kıyasla her çeyrekte yaklaşık sekiz kat daha fazla kod tamamlıyor.

Bunlar da ilginizi çekebilir

Vietnamlı kullanıcıların Adobe hesapları toplu olarak kilitlendi.Adobe, geçerli lisans satın almış olanlar da dahil olmak üzere birçok müşterisinin Creative Cloud hesaplarını iptal ederek yaratıcı toplulukta büyük bir yankı uyandırdı.

iPhone 18 Pro ve 18 Pro Max'in fiyatları rekor seviyelere ulaşacak.iPhone 18 Pro ve iPhone 18 Pro Max'in bu Eylül ayında piyasaya sürülmesi bekleniyor. Tasarım, kamera ve yapay zeka hakkındaki söylentiler teknoloji dünyasının dikkatini çekerken, daha "sıcak" bir diğer konu da bu amiral gemisi cihazların fiyatı.

Korsan yazılım yüklemek 1 milyar VND'ye kadar para cezasına yol açabilir.VTV.vn - Korsan Windows ve Office yazılımlarının kurulumu ve kullanımı 1 milyar VND'ye kadar para cezasına veya cezai kovuşturmaya yol açabilir.

Bu sadece teorik bir uyarı değil. Claude adlı sohbet robotunun arkasındaki şirket, yeterli işlem gücü ve mevcut gelişim hızıyla, bir yapay zeka sisteminin kendi halefini tasarlayıp geliştirebileceğini savunuyor. Bu dönüm noktası bilim ve tıp alanlarına önemli faydalar sağlayacak, ancak aynı zamanda işlerin insan kontrolünden çıkma riskini de artıracaktır.

Gerçekten etkili bir duraklama için, başta ABD ve Çin olmak üzere birçok ülkedeki büyük yapay zeka şirketlerinin fikir birliğine varılması gerekiyor. Anthropic, iç araştırma enstitüsünün bu konuyu diğer taraflarla birlikte inceleyeceğini ve kapsamlı bir yeniden yapılanma mekanizması oluşturmaya yardımcı olmak için çeşitli adımlar atacağını belirtti.

Bu çağrı, Anthropic'in şirketin değerini yaklaşık 1 trilyon dolara çıkarabilecek bir halka arz için hazırlık yaptığı bir dönemde geldi. Yapay zeka güvenliği hakkındaki uyarılar ve borsa hedeflerinin birleşimi dikkat çekici bir paradoks yaratıyor.

Yapay zekâ alanındaki önemli bir oyuncunun duraklama çağrısında bulunması ilk kez olmuyor. 2023'te Elon Musk ve çok sayıda yapay zekâ araştırmacısının da aralarında bulunduğu bir grup, altı aylık bir geliştirme durdurma çağrısında bulunan bir mektup imzalamıştı, ancak bu somut bir sonuç vermedi.

Bunlar da ilginizi çekebilir

Tarihin en pahalı oyununun resmi fiyatı açıklandı.Pek çok söylentinin aksine, Grand Theft Auto VI'nın fiyatı 80 dolardan başlıyor; bu da son dönemdeki bazı büyük gişe rekorları kıran oyunlarla karşılaştırılabilir bir fiyat.

Etnik azınlıklar için bilgi yoksulluğunu azaltmak amacıyla dijital teknolojinin uygulanması.Cao Bang ilinin Etnik Azınlıklar ve Dinler Dairesi, bilgiye erişimi iyileştirmek ve etnik azınlıklar ile dağlık bölgelerde yaşayan insanların bilgi yoksulluğunu etkin bir şekilde azaltmaya katkıda bulunmak amacıyla dijital dönüşüm projelerini aktif olarak uygulamakta ve bilgi teknolojilerini kullanmaktadır.

Sualtıda 'yürüyebilen' bir köpekbalığı türü keşfedildi.Papua Yeni Gine'nin sığ sularında yeni bir yürüyen köpekbalığı türü keşfedildi. Ancak bu türün nesli tükenme tehlikesiyle karşı karşıya olabilir.

Kaynak: https://znews.vn/anthropic-canh-bao-post1657460.html