Amaran antropik

Anthropic baru sahaja menggesa syarikat-syarikat AI terbesar di dunia untuk menyelaraskan penghentian sementara pembangunan model canggih seterusnya, memberi amaran bahawa ia mungkin akan di luar kawalan manusia.

Anthropic menyeru agar pembangunan sistem AI canggih yang baharu dihentikan sementara. Foto: Bloomberg .

Dalam catatan blog pada 4 Jun, Anthropic mencadangkan bahawa memperlahankan atau menghentikan pembangunan AI canggih di seluruh dunia "boleh menjadi perkara yang baik." Walau bagaimanapun, syarikat itu memberi amaran bahawa jika satu entiti pun berhenti, pesaing akan terus maju.

"Kami percaya dunia harus mempunyai pilihan untuk memperlahankan atau menghentikan sementara pembangunan AI canggih supaya struktur sosial dan penyelidikan mengenai keselamatan AI dapat seiring dengan kelajuan pembangunan teknologi," kata Anthropic.

Apa yang paling membimbangkan Anthropic ialah senario "peningkatan kendiri rekursif", yang mana AI mereka bentuk, membina dan melatih versi seterusnya dirinya tanpa campur tangan manusia.

Artikel yang dikarang bersama oleh Jack Clark dan Marina Favaro, ketua institut penyelidikan dalaman Anthropic, mendedahkan bahawa lebih 80% kod yang memasuki sistem syarikat kini ditulis oleh Claude. Jurutera menyiapkan kira-kira lapan kali lebih banyak kod setiap suku tahun berbanding sebelum 2025.

Anda mungkin juga suka

Penemuan komet antara bintang 3I/ATLAS mendedahkan komposisi kimia yang belum pernah dilihat sebelum ini.Ahli astronomi baru sahaja mendapati bahawa komet antara bintang 3I/ATLAS mempunyai 'cap jari' kimia yang tidak pernah direkodkan sebelum ini pada mana-mana jasad angkasa lain dalam Sistem Suria.

Bagaimanakah KOL Vietnam dinilai dan dikategorikan?Dengan data dunia sebenar daripada media sosial dan mekanisme pengesahan berbilang lapisan, Portal KOL Kebangsaan bertujuan untuk menjadi penanda aras telus bagi pasaran influencer Vietnam.

Galaxy S27 Ultra berdepan risiko kenaikan harga yang 'mengejutkan'.Samsung menghadapi pilihan yang sukar untuk Galaxy S27 Ultra: mengurangkan prestasi dan kehilangan kedudukan utamanya, atau terpaksa menaikkan harga telefon utamanya.

Ini bukan sekadar amaran teori. Syarikat di sebalik chatbot Claude berhujah bahawa dengan kuasa pengkomputeran yang mencukupi dan pada kadar pembangunan semasa, sistem AI boleh mereka bentuk dan membangunkan penggantinya sendiri. Pencapaian penting ini akan membawa manfaat yang ketara kepada sains dan perubatan , tetapi juga akan meningkatkan risiko perkara-perkara yang berada di luar kawalan manusia.

Untuk jeda yang benar-benar berkesan, ia memerlukan konsensus daripada banyak syarikat AI utama di pelbagai negara, terutamanya AS dan China. Anthropic berkata institut penyelidikan dalamannya akan meneroka isu ini dengan pihak lain dan mengambil pelbagai tindakan untuk membantu membina mekanisme bagi penstrukturan semula yang komprehensif.

Seruan ini dibuat ketika Anthropic membuat persediaan untuk IPO, satu perjanjian yang boleh menilai syarikat itu hampir $1 trilion . Gabungan amaran tentang keselamatan AI dan cita-cita pasaran saham mewujudkan paradoks yang luar biasa.

Ini bukan kali pertama pemain utama dalam bidang AI meminta untuk dihentikan sementara. Pada tahun 2023, sekumpulan penyelidik termasuk Elon Musk dan ramai penyelidik AI telah menandatangani surat yang meminta pembangunan dihentikan selama enam bulan, tetapi ia tidak memberikan sebarang hasil yang ketara.

Anda mungkin juga suka

Bilakah perkongsian pautan ke karya kewartawanan dianggap sebagai pelanggaran hak cipta?Pada petang 24 Jun, Pengarah Jabatan Radio, Televisyen dan Maklumat Elektronik telah memberikan maklumat tentang kes-kes yang boleh membawa kepada pelanggaran hak cipta karya kewartawanan.

Permainan paling mahal dalam sejarah mempunyai harga rasmi.Bertentangan dengan banyak khabar angin, Grand Theft Auto VI berharga dari $80, setanding dengan beberapa permainan blokbuster baru-baru ini.

Poland membelanjakan hampir $1 bilion untuk menaik taraf sistem Patriotnya: Seberapa hebatkah PAC-2 GEM-T?Poland baru sahaja memuktamadkan kontrak bernilai $988 juta untuk membeli peluru berpandu PAC-2 GEM-T, mengubah sistem Patriot menjadi perisai keluli jarak jauh, bersedia untuk menghapuskan sebarang sasaran dari jarak 150km.

Sumber: https://znews.vn/anthropic-canh-bao-post1657460.html