Sam Altman meninggalkan Jawatankuasa Keselamatan OpenAI, menyerahkannya kepada kumpulan bebas

Menurut pengumuman di blog rasmi OpenAI, Jawatankuasa Keselamatan dan Keselamatan akan menjadi kumpulan pengawasan bebas di bawah lembaga itu. Profesor Universiti Carnegie Mellon Zico Kolter akan mempengerusikan Jawatankuasa itu, bersama ahli lain seperti Ketua Pegawai Eksekutif Quora Adam D'Angelo, Jeneral Tentera AS yang bersara Paul Nakasone dan bekas Naib Presiden Eksekutif Sony Nicole Seligman. Kesemua ahli ini pada masa ini adalah ahli lembaga OpenAI.

Berikutan peletakan jawatan Altman, jawatankuasa itu menyelesaikan semakan keselamatan model AI terbaru syarikat, o1. Kumpulan itu akan terus menerima taklimat daripada pasukan keselamatan dan keselamatan OpenAI, dan berhak untuk menangguhkan pengeluaran jika kebimbangan keselamatan tidak ditangani.

Menurut OpenAI, Jawatankuasa akan mengekalkan peranan penting dalam menyediakan pengawasan teknikal untuk model semasa dan akan datang, bersama-sama dengan pemantauan selepas keluaran. Syarikat komited untuk membina proses keselamatan terbina dalam dengan kriteria penilaian yang jelas untuk memastikan semua model AI dikeluarkan dengan selamat.

Keputusan Altman untuk meninggalkan jawatankuasa itu dibuat selepas sekumpulan lima senator AS menghantar surat meminta OpenAI menjelaskan dasar keselamatannya. Hampir separuh daripada kakitangan OpenAI, yang memberi tumpuan kepada mengkaji risiko jangka panjang AI, telah meninggalkan syarikat itu dalam beberapa tahun kebelakangan ini. Bekas penyelidik OpenAI telah mengkritik Altman kerana tidak menyokong peraturan AI yang kukuh, sebaliknya memihak kepada dasar yang memajukan matlamat komersial syarikat.

Kredit imej: Justin Sullivan / Getty Images

Selain itu, OpenAI telah meningkatkan perbelanjaannya dengan ketara untuk melobi Kongres AS . Syarikat itu telah menganggarkan $800,000 untuk enam bulan pertama 2024, berbanding $260,000 untuk semua tahun 2023. Altman juga menyertai Lembaga Keselamatan dan Keselamatan Kecerdasan Buatan Jabatan Keselamatan Dalam Negeri AS, di mana beliau menyumbang untuk membuat cadangan berkaitan AI di seluruh infrastruktur kritikal negara.

Walaupun Altman telah meninggalkan Jawatankuasa Keselamatan dan Privasi, nampaknya terdapat sedikit tanda bahawa jawatankuasa itu akan membuat keputusan yang boleh menghalang laluan komersial OpenAI secara serius. Pada bulan Mei, OpenAI berkata ia akan berusaha untuk menangani "kritikan yang sah" terhadap kerjanya melalui jawatankuasa itu, walaupun "kritikan yang sah" sebahagian besarnya subjektif.

Dalam editorial dalam The Economist pada Mei, dua bekas ahli lembaga OpenAI, Helen Toner dan Tasha McCauley, menyatakan kebimbangan tentang keupayaan syarikat untuk mentadbir dirinya sendiri, dengan alasan bahawa OpenAI pada masa ini tidak dapat bertanggungjawab di bawah tekanan keuntungan.

Keuntungan menjadi pemacu yang semakin penting untuk OpenAI. Syarikat itu sedang dalam proses mengumpul $6.5 bilion dalam pusingan baharu pembiayaan yang akan bernilai lebih daripada $150 bilion. Untuk menarik pelabur, OpenAI mungkin mempertimbangkan untuk meninggalkan struktur bukan untung hibridnya, yang direka untuk mengehadkan pulangan kepada pelabur bagi memastikan matlamat membangunkan AI untuk kebaikan bersama manusia.

Hung Nguyen (Menurut TechCrunch)

Sumber: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html