OpenAI, uzun tartışmaların ardından ChatGPT'de çocuk izleme özelliğini başlattı

Yapay zekanın küçükler üzerindeki güvenliği konusunda yaşanan tartışmaların ardından OpenAI, ChatGPT'ye resmi olarak çocuk kontrol aracı ekledi.

ChatGPT'nin çocuk izleme özelliği, ebeveynlerin çocuklarının yapay zekayı kullanmasına izin verirken kendilerini daha güvende hissetmelerine de yardımcı oluyor.

Yakında kullanıma sunulacak ChatGPT çocuk izleme aracı, kamuoyunda yankı uyandıran bir davanın ardından OpenAI'dan bir güvenlik değişikliği olarak görülüyor. Bu özellik, çocukların sohbet robotlarıyla sohbet etme riskini azaltmayı hedeflerken, aynı zamanda yapay zeka şirketlerinin sosyal sorumluluğu hakkında da soru işaretleri yaratıyor.

Şok edici davadan

Geçtiğimiz ağustos ayında, 16 yaşındaki Kaliforniyalı çocuk Adam Raine'in ailesi, ChatGPT'nin oğullarının intihar etmeden önce kendisini umutsuz hissetmesine neden olan kendine zarar verme talimatları ve sözlü tacizde bulunduğunu iddia ederek OpenAI'ye dava açmıştı.

Dava kısa sürede büyük yankı uyandırdı ve yapay zekanın genç kullanıcılar açısından güvenliği konusunda bir tartışma başlattı.

Bu durum önemli soruları gündeme getiriyor: Küçükler ChatGPT'yi gözetimsiz kullanmalı mı ve ürün doğrudan genç kullanıcıların psikolojisini etkilediğinde yapay zeka geliştiricilerinin sorumluluğu nasıl belirlenmeli?

Bu baskılara yanıt olarak OpenAI, çocukları koruma konusundaki kararlılığını gösterme ve şirketin ChatGPT'nin gelişiminin bir sonraki aşamasında güvenliği ön planda tutmaya istekli olduğunu gösterme yolunda ilk adım olarak ebeveyn kontrollerinin eklendiğini duyurdu.

ChatGPT'deki izleme özellikleri

Resmi duyuruya göre OpenAI, ebeveynlerin hesaplarını çocuklarının ChatGPT hesaplarına bağlamalarına olanak tanıyan bir araç sunacak. Araç etkinleştirildikten sonra ebeveynler, sohbet depolama alanını kapatma, kullanım geçmişini kontrol etme ve yaşa uygun etkileşim seviyelerini ayarlama gibi önemli ayarları yönetebilecek.

Bu yeniliğin öne çıkan özelliği uyarı sistemi. ChatGPT, genç kullanıcılarda stres, depresyon veya kendine zarar verme gibi psikolojik kriz belirtileri görüldüğünde bunu tespit edecek şekilde eğitilecek. Bu gibi durumlarda ebeveynlere derhal müdahale etmeleri için bildirimler gönderilecek. OpenAI, amacın tüm konuşmayı izlemek değil, çocukların güvenliğini korumak için acil durumlara odaklanmak olduğunu belirtiyor.

Ayrıca, hassas içerik tespit edildiğinde ChatGPT, daha düşünceli ve destekleyici yanıtlar sağlamak üzere tasarlanmış derin muhakeme modelleriyle çalışmaya başlayacaktır. Buna paralel olarak şirket, önümüzdeki dönemde korumalarını daha da geliştirmek için tıp uzmanları ve uluslararası bir danışma kuruluyla da çalışmaktadır.

Karşılaşılan zorluklar

OpenAI, yeni özelliğin ailelere fayda sağlamak için tasarlandığını vurgulasa da uluslararası tepkiler karışık. Aracın, çocukları yapay zeka ile etkileşime girerken ebeveynlere bir koruma katmanı sağlaması bekleniyor, ancak kullanım sınırlarından çocuk veri gizliliğine kadar uzun süredir devam eden endişeleri de beraberinde getirdi.

Aslında, çocukların veri gizliliğiyle ilgili endişeler uzmanlar tarafından yıllardır dile getiriliyor. Bu uyarılar, çocukların sohbet geçmişlerinin sıkı koruma önlemleri olmadan saklanması ve analiz edilmesinin hassas bilgilerin ifşa olma riskini artırabileceğini vurguluyor. ChatGPT'de izleme araçlarının ortaya çıkması, konuyu tekrar gündeme getirdi.

Tartışılan bir diğer konu ise sistemin uyarı eşiğiydi. OpenAI, ChatGPT'nin şiddetli stres belirtilerini tespit edip ebeveynlere uyarı göndereceğini söyledi.

Ancak makine öğrenimi her zaman önyargı riski taşır. Sistem yanlış alarm verirse, ebeveynler gereksiz yere kafaları karışabilir. Tersine, bir sinyali kaçırırsa, çocuklar ailenin zamanında müdahale edememesi riskiyle karşı karşıya kalabilir.

Uluslararası çocuk koruma örgütleri de OpenAI'nin bu hamlesini yakından takip ederek ebeveyn kontrol aracını olumlu bir işaret olarak değerlendirdi ancak sıkı yaş doğrulaması ve varsayılan korumaların eksikliğinin, çocukların ebeveyn gözetimi altında bile risklerle karşı karşıya kalabileceği konusunda uyardı.

Bu tartışmalar, yapay zekânın gelişiminin yalnızca teknolojik bir hikaye olmadığını, aynı zamanda toplumsal sorumluluk ve genç neslin güvenliğiyle de yakından bağlantılı olduğunu gösteriyor.

THANH PER

Kaynak: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm