Butiran baharu dalam skandal kakitangan OpenAI

Surat titik perubahan

Reuters pada 23 November memetik sumber eksklusif sebagai berkata bahawa empat hari sebelum pemecatan Ketua Pegawai Eksekutif Sam Altman, beberapa penyelidik di OpenAI menghantar surat kepada lembaga pengarah syarikat itu memberi amaran tentang penemuan kecerdasan buatan (AI) yang berkuasa yang boleh mengancam manusia. Surat itu tidak pernah disebut sebelum ini dan algoritma AI yang disebut di atas merupakan perkembangan penting sebelum Encik Sam Altman, pengasas bersama OpenAI, dipecat pada 17 November. Beliau kembali ke jawatan ini pada 21 November (waktu AS) selepas dua rundingan dengan OpenAI. Menurut sumber, surat itu adalah salah satu faktor dalam senarai sebab yang membawa kepada keputusan untuk memecat lembaga pengarah OpenAI, walaupun dalam pengumuman rasmi, syarikat itu hanya mengatakan bahawa Encik Altman "tidak konsisten dan terus terang dalam berkomunikasi dengan lembaga pengarah".

Encik Altman ( kanan ) dan pemimpin syarikat teknologi berbincang pada persidangan APEC di San Francisco (AS) pada 16 November.

Salah seorang eksekutif lama OpenAI, Mira Murati, menyebut projek yang dipanggil Q* kepada pekerja pada 22 November dan berkata lembaga syarikat menerima surat sebelum Altman dipecat, menurut orang ramai. Salah satu sumber berkata OpenAI telah mencapai kemajuan pada Q*, yang boleh menjadi satu kejayaan dalam usaha untuk superintelligence, juga dikenali sebagai kecerdasan am buatan (AGI).

Walaupun model itu hanya mampu melakukan matematik peringkat sekolah rendah, menyelesaikan masalah sedemikian menjadikan penyelidik optimis tentang kejayaan masa depan Q*. Penyelidik melihat matematik sebagai prasyarat untuk membangunkan AI generatif. AI Generatif pada masa ini boleh menulis dan menterjemah bahasa, walaupun jawapan kepada soalan yang sama mungkin sangat berbeza. Tetapi menguasai matematik, di mana hanya terdapat satu jawapan yang betul, membayangkan bahawa AI akan dapat membuat penaakulan dengan lebih baik, seperti manusia. Penyelidik percaya ini boleh digunakan untuk penyelidikan saintifik baru.

Sam Altman kembali sebagai Ketua Pegawai Eksekutif OpenAI

Potensi bahaya?

Dalam surat kepada lembaga OpenAI, para penyelidik menggariskan potensi kuasa dan bahaya AI, menurut orang ramai. Para saintis komputer telah lama membincangkan bahaya yang ditimbulkan oleh mesin superintelligent, seperti sama ada mereka mungkin memutuskan untuk memusnahkan manusia untuk kepentingan mereka sendiri. Berdasarkan latar belakang itu, Altman telah mengetuai usaha untuk menjadikan ChatGPT sebagai salah satu aplikasi perisian yang paling pesat berkembang dalam sejarah dan menarik pelaburan dan sumber pengkomputeran yang diperlukan untuk mendekati AGI. Selain mengumumkan pelbagai alat baharu pada satu acara bulan ini, Altman memberitahu pemimpin dunia di San Francisco minggu lalu bahawa dia percaya AGI berada dalam jangkauan. Sehari kemudian, dia dipecat oleh lembaga OpenAI. OpenAI dan Altman tidak segera menjawab permintaan untuk mengulas surat itu.

Prihatin tentang potensi risiko yang ditimbulkan oleh AI, banyak kerajaan Barat dan syarikat teknologi telah bersetuju dengan rejim ujian keselamatan baharu. Bagaimanapun, menurut AFP, Setiausaha Agung PBB Antonio Guterres berkata dunia masih "bermain mengejar" dalam usaha untuk mengawal selia AI, yang berisiko mempunyai akibat negatif jangka panjang untuk segala-galanya daripada pekerjaan hingga budaya.

OpenAI, Microsoft disaman atas hak cipta

Sekumpulan pengarang bukan fiksyen telah memfailkan tuntutan mahkamah terhadap OpenAI dan Microsoft, menuduh mereka melatih alat yang dipanggil ChatGPT untuk menyalin karya mereka tanpa persetujuan mereka, The Hill melaporkan pada 23 November. Dalam tuntutan mahkamah yang difailkan di mahkamah persekutuan di New York, plaintif utama, Julian Sancton, berkata dia dan pengarang lain tidak menerima apa-apa pampasan untuk kerja mereka yang disalin oleh Microsoft dan Microsoft memperoleh kejayaan, manakala kerja mereka dikomersilkan oleh Microsoft. berbilion dolar hasil daripada produk AI. Menurut Reuters, jurucakap OpenAI enggan mengulas mengenai tuntutan mahkamah itu, manakala wakil Microsoft tidak segera menjawab permintaan untuk komen.

Pautan sumber: https://thanhnien.vn/tinh-tiet-moi-vu-song-gio-nhan-su-openai-18523112320233668.htm