Bolehkah projek 'AI super' yang mengancam manusia menyumbang kepada CEO OpenAI yang memecat Altman?

Dalam laporan 23 November, Reuters memetik dua sumber sebagai berkata surat itu tidak pernah disebut sebelum ini dan bahawa algoritma AI merupakan perkembangan penting sebelum Sam Altman, pengasas bersama dan Ketua Pegawai Eksekutif OpenAI, dipecat pada 17 November. Menurut sumber ini, surat itu merupakan salah satu faktor dalam senarai sebab yang membawa kepada keputusan untuk memecat lembaga pengarah OpenAI.

Para penyelidik yang menulis dan menghantar surat itu tidak segera menjawab permintaan untuk komen.

Altman membuat kemunculan semula dengan penuh kejayaan lewat pada 21 November, selepas lebih 700 pekerja OpenAI mengancam untuk berhenti dan menyertai Microsoft bersama-sama CEO yang dipecat. Ini menamatkan kegawatan hampir seminggu dengan satu siri perkembangan yang tidak dijangka di OpenAI, salah satu syarikat penyelidikan AI paling terkemuka di dunia hari ini dan pemilik aplikasi popular ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — Encik Altman pada acara APEC di AS pada 16 November.

Menurut salah satu sumber, salah seorang pengurus kanan lama OpenAI, Mira Murati, menyebut projek yang dipanggil Q* (disebut "Q Star") kepada pekerja pada 22 November dan berkata surat telah dihantar kepada lembaga pengarah syarikat sebelum gelombang kejutan teknologi global hujung minggu lalu.

Selepas cerita ini dilaporkan, jurucakap OpenAI berkata Cik Murati telah memberitahu kakitangan apa yang akan dilaporkan oleh media, tetapi dia tidak akan mengulas mengenai ketepatan maklumat itu.

Sam Altman kembali sebagai CEO OpenAI

Salah satu sumber mendedahkan bahawa OpenAI telah mencapai kemajuan pada Project Q*. Sesetengah orang di syarikat itu percaya bahawa projek itu boleh menjadi satu kejayaan dalam usaha OpenAI untuk superintelligence, juga dikenali sebagai kecerdasan am buatan (AGI). Syarikat itu mentakrifkan AGI sebagai sistem AI yang lebih pintar daripada manusia.

Dengan sumber pengkomputeran yang luas, model baharu itu boleh menyelesaikan beberapa masalah, menurut sumber itu. Walaupun model itu hanya melakukan matematik di peringkat sekolah rendah, sumber itu berkata bahawa menyelesaikan masalah sedemikian menjadikan penyelidik sangat optimistik tentang kejayaan masa depan Q*.

Penyelidik melihat matematik sebagai barisan hadapan dalam pembangunan AI generatif. Pada masa ini, AI generatif boleh menulis dan menterjemah antara bahasa, walaupun jawapan kepada soalan yang sama mungkin sangat berbeza. Tetapi menguasai matematik - di mana hanya terdapat satu jawapan yang betul - membayangkan bahawa AI akan dapat menaakul lebih baik seperti kecerdasan manusia. Penyelidik AI percaya ini boleh digunakan untuk penyelidikan saintifik baharu.

Tidak seperti komputer yang hanya boleh menyelesaikan bilangan pengiraan yang terhad, AGI boleh membuat generalisasi, mempelajari dan memahami masalah. Dalam surat kepada lembaga OpenAI, para penyelidik menyerlahkan kuasa dan potensi bahaya AI, menurut sumber. Para saintis komputer telah lama membincangkan bahaya yang ditimbulkan oleh mesin superintelligent, seperti sama ada mereka mungkin memutuskan untuk memusnahkan manusia untuk kepentingan mereka sendiri.

Dalam konteks itu, En. Altman mengetuai usaha untuk menjadikan ChatGPT menjadi salah satu aplikasi perisian yang paling pesat berkembang dalam sejarah dan menarik pelaburan — serta sumber pengkomputeran — yang diperlukan daripada Microsoft untuk mendekati superintelligence umum, atau AGI.

Selain mengumumkan pelbagai alat baharu pada satu acara bulan ini, Encik Altman memberitahu pemimpin dunia di San Francisco minggu lalu bahawa dia percaya AGI berada dalam jangkauan.

Sehari kemudian, lembaga OpenAI memecat Encik Altman.

Pautan sumber