Perkembangan baharu dalam pergolakan kakitangan OpenAI.

Surat yang menandakan titik perubahan.

Reuters melaporkan pada 23 November, memetik sumber eksklusif, bahawa empat hari sebelum pemecatan Ketua Pegawai Eksekutif Sam Altman, beberapa penyelidik di OpenAI menghantar surat kepada lembaga pengarah syarikat itu memberi amaran tentang penemuan kecerdasan buatan (AI) yang kuat yang boleh mengancam manusia. Surat itu, yang tidak pernah disebut sebelum ini, dan algoritma AI yang dimaksudkan, merupakan perkembangan penting yang membawa kepada pemecatan Sam Altman, pengasas bersama OpenAI, pada 17 November. Beliau kembali ke jawatannya pada 21 November (waktu AS) selepas dua pusingan rundingan dengan OpenAI. Menurut sumber, surat itu merupakan salah satu sebab di sebalik keputusan lembaga pengarah OpenAI untuk memecatnya, walaupun pengumuman rasmi hanya menyatakan bahawa Altman "tidak konsisten dan tidak terus terang dalam komunikasinya dengan lembaga."

Encik Altman ( kanan ) dan para pemimpin syarikat teknologi berbincang di persidangan APEC di San Francisco, Amerika Syarikat, pada 16 November.

Menurut sumber, salah seorang pengurus kanan OpenAI yang telah lama berkhidmat, Mira Murati, menyebut tentang projek yang dipanggil Q* kepada pekerja pada 22 November dan berkata bahawa lembaga pengarah syarikat telah menerima surat sebelum memecat Altman. Salah satu sumber mendedahkan bahawa OpenAI telah mencapai kemajuan dalam projek Q*, yang berpotensi menjadi satu kejayaan dalam pencarian kecerdasan super, juga dikenali sebagai kecerdasan umum buatan (AGI).

Walaupun model baharu ini hanya melaksanakan matematik di peringkat sekolah rendah, keupayaannya untuk menyelesaikan masalah sedemikian telah mendorong para penyelidik untuk bersikap sangat optimistik tentang kejayaan Q* pada masa hadapan. Para penyelidik melihat matematik sebagai prasyarat untuk pembangunan AI generatif. Pada masa ini, AI generatif boleh menulis dan menterjemah bahasa, walaupun jawapan kepada soalan yang sama boleh berbeza-beza. Walau bagaimanapun, menakluki keupayaan untuk melakukan matematik, satu bidang dengan hanya satu jawapan yang betul, menunjukkan bahawa AI akan mempunyai kebolehan penaakulan yang lebih baik, serupa dengan manusia. Penyelidik percaya ini boleh digunakan untuk penyelidikan saintifik baharu.

Sam Altman kembali sebagai Ketua Pegawai Eksekutif OpenAI.

Bahaya yang berpotensi?

Dalam sepucuk surat kepada lembaga pengarah OpenAI, para penyelidik menggariskan kuasa dan potensi bahaya AI, menurut sumber. Saintis komputer telah lama membincangkan bahaya yang ditimbulkan oleh mesin superpintar, seperti sama ada ia mungkin memutuskan untuk memusnahkan manusia untuk kepentingan mereka sendiri. Berlatarbelakangkan ini, Altman menerajui usaha untuk menjadikan ChatGPT sebagai salah satu aplikasi perisian yang paling pesat berkembang dalam sejarah dan menarik pelaburan dan sumber pengkomputeran yang diperlukan untuk mendekati AGI. Selain mengumumkan beberapa siri alat baharu di satu acara bulan ini, Altman memberitahu pemimpin dunia di San Francisco minggu lalu bahawa beliau percaya AGI akan datang. Sehari kemudian, beliau dipecat oleh lembaga pengarah OpenAI. OpenAI dan Altman belum mengulas mengenai surat itu.

Bimbang tentang potensi risiko AI, banyak kerajaan Barat dan syarikat teknologi telah bersetuju dengan mekanisme ujian selamat yang baharu. Walau bagaimanapun, menurut AFP, Setiausaha Agung PBB Antonio Guterres berkata dunia masih "bermain iseng" dalam usahanya untuk mengawal selia AI, yang berisiko mempunyai akibat negatif jangka panjang untuk segala-galanya daripada pekerjaan hinggalah budaya.

OpenAI dan Microsoft sedang disaman atas pelanggaran hak cipta.

The Hill melaporkan pada 23 November bahawa sekumpulan penulis bukan fiksyen telah memfailkan saman yang mendakwa bahawa OpenAI dan Microsoft telah melatih alat ChatGPT mereka untuk menyalin karya mereka tanpa persetujuan. Dalam saman yang difailkan di mahkamah persekutuan di New York, plaintif utama, Julian Sancton, mendakwa bahawa beliau dan penulis lain tidak menerima pampasan untuk karya yang disalin oleh AI, manakala OpenAI dan Microsoft mencapai kejayaan kewangan daripada mengkomersialkan karya mereka, memperoleh hasil berbilion dolar daripada produk AI. Menurut Reuters, jurucakap OpenAI enggan mengulas mengenai saman itu, manakala wakil Microsoft tidak segera memberi respons kepada permintaan untuk komen.

Pautan sumber: https://thanhnien.vn/tinh-tiet-moi-vu-song-gio-nhan-su-openai-18523112320233668.htm