Sam Altman meninggalkan Komite Keamanan OpenAI, menyerahkannya kepada kelompok independen

Menurut pengumuman di blog resmi OpenAI, Komite Keselamatan dan Keamanan akan menjadi kelompok pengawas independen di bawah dewan. Profesor Zico Kolter dari Carnegie Mellon University akan memimpin Komite, bersama anggota lain seperti CEO Quora Adam D'Angelo, pensiunan Jenderal Angkatan Darat AS Paul Nakasone, dan mantan Wakil Presiden Eksekutif Sony Nicole Seligman. Semua anggota ini saat ini merupakan anggota dewan OpenAI.

Setelah pengunduran diri Altman, komite menyelesaikan tinjauan keamanan model AI terbaru perusahaan, o1. Komite akan terus menerima pengarahan dari tim keselamatan dan keamanan OpenAI, dan berhak menunda rilis jika masalah keamanan tidak ditangani.

Menurut OpenAI, Komite akan tetap memegang peran penting dalam memberikan pengawasan teknis untuk model-model saat ini dan di masa mendatang, serta pemantauan pasca-rilis. Perusahaan berkomitmen untuk membangun proses keselamatan terintegrasi dengan kriteria evaluasi yang jelas guna memastikan semua model AI-nya dirilis dengan aman.

Keputusan Altman untuk meninggalkan komite muncul setelah sekelompok lima senator AS mengirimkan surat yang meminta OpenAI untuk mengklarifikasi kebijakan keamanannya. Hampir separuh staf OpenAI, yang berfokus pada studi risiko jangka panjang AI, telah meninggalkan perusahaan dalam beberapa tahun terakhir. Mantan peneliti OpenAI mengkritik Altman karena tidak mengadvokasi regulasi AI yang kuat, melainkan lebih mendukung kebijakan yang memajukan tujuan komersial perusahaan.

Kredit gambar: Justin Sullivan / Getty Images

Selain itu, OpenAI telah meningkatkan pengeluarannya secara signifikan untuk melobi Kongres AS. Perusahaan telah menganggarkan $800.000 untuk enam bulan pertama tahun 2024, dibandingkan dengan $260.000 untuk seluruh tahun 2023. Altman juga bergabung dengan Dewan Keselamatan dan Keamanan Kecerdasan Buatan Departemen Keamanan Dalam Negeri AS, di mana ia berkontribusi dalam memberikan rekomendasi terkait AI di seluruh infrastruktur penting negara tersebut.

Meskipun Altman telah meninggalkan Komite Keamanan dan Privasi, tampaknya hanya ada sedikit tanda bahwa komite tersebut akan membuat keputusan yang dapat secara serius menghambat jalur komersial OpenAI. Pada bulan Mei, OpenAI mengatakan akan berupaya untuk menanggapi "kritik yang valid" atas pekerjaannya melalui komite, meskipun "kritik yang valid" sebagian besar bersifat subjektif.

Dalam editorial di The Economist pada bulan Mei, dua mantan anggota dewan OpenAI, Helen Toner dan Tasha McCauley, mengungkapkan kekhawatiran mereka tentang kemampuan perusahaan untuk mengatur diri sendiri, dengan alasan bahwa OpenAI saat ini tidak mampu mempertanggungjawabkan dirinya sendiri di bawah tekanan keuntungan.

Keuntungan menjadi pendorong yang semakin penting bagi OpenAI. Perusahaan ini sedang dalam proses menggalang dana sebesar $6,5 miliar dalam putaran pendanaan baru yang akan bernilai lebih dari $150 miliar. Untuk menarik investor, OpenAI mungkin mempertimbangkan untuk meninggalkan struktur nirlaba hibridanya, yang dirancang untuk membatasi keuntungan bagi investor demi memastikan tujuan pengembangan AI demi kebaikan bersama umat manusia.

Hung Nguyen (Menurut TechCrunch)

Sumber: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html