Sam Altman, OpenAI'nin Güvenlik Komitesi'nden ayrılarak komiteyi bağımsız bir gruba bıraktı

OpenAI'nin resmi blogunda yapılan duyuruya göre, Güvenlik ve Emniyet Komitesi, yönetim kuruluna bağlı bağımsız bir denetim grubu haline gelecek. Carnegie Mellon Üniversitesi Profesörü Zico Kolter, Quora CEO'su Adam D'Angelo, emekli ABD Ordusu Generali Paul Nakasone ve eski Sony İcra Kurulu Başkan Yardımcısı Nicole Seligman gibi diğer üyelerle birlikte Komiteye başkanlık edecek. Bu üyelerin tamamı şu anda OpenAI yönetim kurulu üyesidir.

Altman'ın istifasının ardından komite, şirketin en son yapay zeka modeli o1'in güvenlik incelemesini tamamladı. Grup, OpenAI'nin güvenlik ve emniyet ekibinden brifingler almaya devam edecek ve güvenlik endişeleri giderilmediği takdirde sürümün yayınlanmasını geciktirme hakkını saklı tutuyor.

OpenAI'ye göre Komite, mevcut ve gelecekteki modeller için teknik denetim sağlamanın yanı sıra, sürüm sonrası izleme konusunda da önemli bir rol üstlenecek. Şirket, tüm yapay zeka modellerinin güvenli bir şekilde piyasaya sürülmesini sağlamak için net değerlendirme kriterlerine sahip yerleşik güvenlik süreçleri oluşturmaya kararlı.

Altman'ın komiteden ayrılma kararı, beş ABD senatöründen oluşan bir grubun OpenAI'dan güvenlik politikalarını netleştirmesini isteyen bir mektup göndermesinin ardından geldi. Yapay zekanın uzun vadeli risklerini incelemeye odaklanan OpenAI personelinin neredeyse yarısı son yıllarda şirketten ayrıldı. Eski OpenAI araştırmacıları, Altman'ı güçlü yapay zeka düzenlemelerini savunmak yerine şirketin ticari hedeflerini ilerleten politikaları tercih ettiği için eleştirdiler.

Görsel kaynağı: Justin Sullivan / Getty Images

Ayrıca, OpenAI, ABD Kongresi'ne yönelik lobi faaliyetlerine yaptığı harcamaları önemli ölçüde artırdı. Şirket, 2023'ün tamamı için 260.000 dolar olan bütçesini, 2024'ün ilk altı ayı için 800.000 dolara çıkardı. Altman ayrıca, ülkenin kritik altyapısı genelinde yapay zeka ile ilgili tavsiyelerde bulunmak üzere ABD İç Güvenlik Bakanlığı'nın Yapay Zeka Güvenlik ve Emniyet Kurulu'na katıldı.

Altman, Güvenlik ve Gizlilik Komitesi'nden ayrılmış olsa da, komitenin OpenAI'nin ticari yolunu ciddi şekilde sekteye uğratabilecek kararlar alacağına dair çok az işaret var gibi görünüyor. Mayıs ayında OpenAI, çalışmalarına yönelik "geçerli eleştirileri" komite aracılığıyla ele almaya çalışacağını açıklamıştı; ancak "geçerli eleştiriler" büyük ölçüde özneldir.

The Economist dergisinin Mayıs ayındaki başyazısında, OpenAI'nin eski yönetim kurulu üyelerinden Helen Toner ve Tasha McCauley, şirketin kendini yönetme becerisiyle ilgili endişelerini dile getirerek, OpenAI'nin şu anda kâr baskısı altında kendini sorumlu tutamadığını savundular.

Kâr, OpenAI için giderek daha önemli bir itici güç haline geliyor. Şirket, 150 milyar doların üzerinde bir değere ulaşacak yeni bir finansman turunda 6,5 ​​milyar dolar toplama sürecinde. Yatırımcı çekmek için OpenAI, insanlığın ortak yararı için yapay zeka geliştirme hedefini sağlamak amacıyla yatırımcılara getiriyi sınırlamak üzere tasarlanmış karma kâr amacı gütmeyen yapısını terk etmeyi düşünebilir.

Hung Nguyen (TechCrunch'a göre)

Kaynak: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html