OpenAI tartışmasının ardındaki 'süper zeka' modeli

Tech.co'nun kaynaklarına göre, CEO Sam Altman'ın görevden alınması ve ardından OpenAI'ye geri dönmesiyle ilgili tartışmalar sürerken, dolaşan söylentilerden biri de şirketin araştırmacılarının yönetim kuruluna gönderdiği ve geliştirilmekte olan yapay zeka süper zekâ modelinin insanlık için potansiyel bir tehdit oluşturabileceği endişesini dile getiren bir mektupla ilgiliydi.

Proje Q*

Dahili olarak Proje Q* (Q-yıldız olarak telaffuz edilir) olarak bilinen model, OpenAI'nin genel yapay zekâ (AGI) arayışında büyük bir atılımı temsil edebileceği şeklinde lanse ediliyor. AGI, birikimli öğrenme yeteneğine sahip ve çoğu görevde insanlardan daha iyi performans gösteren, son derece özerk bir süper zekâ dalıdır.

Konuya yakın kaynaklara göre, Q* yapay zekânın akıl yürütme yeteneklerini kökten geliştirerek ve OpenAI'yi genel yapay zekâ geliştirme alanında büyük bir atılıma yaklaştırarak, yapay zekâ alanında önemli bir ilerleme kaydedebilir.

Mevcut yapay zeka modellerinin aksine, önceden öğrenilmiş bilgilere dayalı yanıtlar üretmeye odaklanan yapay genel zeka (AGI), kararlara "akıl yürütme" uygulayabilen ve böylece insan düzeyinde sorunları çözebilen özerk bir sistemdir.

Yapay genel zeka (AGI) henüz tam olarak hayata geçirilmemiş olsa da, birçok uzman bu teknolojinin, insanların yeteneklerini geliştirmelerini sağlayan bir diğer özellik olan kümülatif öğrenme potansiyeline de sahip olacağına inanıyor.

Bazı kaynaklar, OpenAI projesi olan Q*'nun, problemleri çözerken yukarıda bahsedilen özellikleri sergileyebildiğini öne sürüyor. Dahası, modelin muazzam işlem gücü sayesinde Q*, ilkokul öğrencilerini bile geride bırakarak, mevcut yapay zeka teknolojisinin çok ötesinde akıl yürütme becerileri ve bilişsel yetenekler sergilemiştir.

Q*'nun ne kadar süredir geliştirilmekte olduğu ve potansiyel uygulamalarının neler olabileceği belirsiz, ancak OpenAI, personel tartışması yaşanmadan önce çalışanlarını ve yönetim kurulu üyelerini proje hakkında bilgilendirmişti.

Etik kaygılar

OpenAI CEO'su Sam Altman, yapay genel zeka (AGI) teknolojisinin inovasyonu yönlendireceğinden emin olsa da, bazı araştırmacılar projenin potansiyel tehlikelerine dikkat çekmekte gecikmediler.

Araştırmacılar, yönetim kuruluna yazdıkları bir mektupta, bu güçlü algoritmanın insanlık için oluşturduğu potansiyel tehlike konusunda uyarıda bulundular. Mektupta yapay zekâya ilişkin belirtilen etik endişeler açıklanmadı, ancak uyarılar yönetim kurulunun Altman'ı işten çıkarma kararını haklı çıkarmak için yeterliydi.

Bu arada, Altman'ın görevden alınmasının ilk gerekçesi CEO'nun "zayıf iletişim becerilerine" sahip olmasıydı. Kısa süre sonra Microsoft'ta yeni bir pozisyon buldu. Bu olay, OpenAI'nin 770 çalışanından 700'ünün, CEO'nun göreve iade edilmemesi halinde aynı şeyi yapacakları tehdidinde bulunmasına yol açtı.

Şirketin çöküşün eşiğinde olması nedeniyle, OpenAI'nin yönetim kurulu Altman'ı en üst göreve yeniden atamak zorunda kaldı; bu da şirketin yönetici ekibinde büyük bir revizyona yol açtı ve liderlik kadrosu içindeki derin bölünmeleri ortaya çıkardı.

Altman'ın göreve geri dönmesi ve Q* Projesi'ne yeniden onay verilmesi ihtimalinin yüksek olması, yeni soruları gündeme getiriyor.

Q* Projesi ne kadar gerçekçi?

OpenAI'deki çalkantılı dönemler yapay genel zeka (AGI) kavramını gündeme getirse de, Altman bu teknolojiden ilk kez bahsetmiyor.

Geçtiğimiz Eylül ayında, Silikon Vadisi girişimcisi, yapay genel zekayı "iş arkadaşı olarak işe alabileceğiniz ortalama bir insan" ile karşılaştırdığı için başını derde sokmuştu. Geçen yıl yaptığı yorumları tekrarlayarak, bu yapay zekanın "uzaktan çalışan bir iş arkadaşınızla yapabileceğiniz her şeyi yapabileceğini", hatta doktor olmayı ve iyi bir programcı olmayı öğrenebileceğini söylemişti.

Yapay genel zekayı "ortalama bir insanın" zekasıyla karşılaştırmak yeni bir şey olmasa da, Altman'ın bu ifadeyi kullanması, yapay zekanın iş güvenliği üzerindeki etkisine ilişkin endişelerin arttığı bir dönemde, yapay zeka etikçileri ve Cambridge Üniversitesi profesörü Henry Shevlin tarafından "iğrenç" olarak değerlendirildi.

Yapay genel zekadaki potansiyel atılımlar, diğer araştırmacılar için de alarm zilleri çalıyor: Teknoloji, insanların etkisini tam olarak anlayabileceğinden daha hızlı gelişiyor.

OpenAI, yapay genel zekanın olumlu sonuçlarının bu riskli "mayın tarlasını" denemeye değer kıldığını düşünüyor. Ancak şirket bu yönde ilerlemeye devam ederken, birçok kişi Altman'ın ticari başarıyı kullanıcıların ve toplumun yararından üstün tuttuğundan endişe ediyor.

Phuong Anh (Kaynak: Tech.co, The Guardian)

[reklam_2]
Kaynak