OpenAI, ChatGPT'de 18+ modunu etkinleştirdi: Küçükleri nasıl koruyabiliriz?

OpenAI, Aralık 2025'ten itibaren doğrulanmış kullanıcıların yetişkin içeriklerine erişmesine izin vererek yeni bir pazar açacak ancak çocukların korunması konusunda büyük bir zorluk da ortaya çıkaracak.

Yaş doğrulama ve çocuklar için güvenlik uyarıları içeren yetişkinlere yönelik sohbet robotu.

OpenAI'nin, Aralık 2025'ten itibaren doğrulanmış yetişkin kullanıcıların ChatGPT'de yetişkin içeriklerine erişmesine izin vereceğini doğrulaması, hem pazar büyümesini artırması hem de reşit olmayanların korunması için yeni bir standart belirlemesi açısından sektör için önemli bir dönüm noktası olarak görülüyor.

Yetişkinlere yönelik sohbet botları - yapay zekanın yeni yarış pisti.

Yapay zekâ platformları, samimi sohbetlerden duygusal desteğe kadar yetişkinlerin ihtiyaçlarını karşılamak üzere hızla modeller geliştirdi.

CEO Sam Altman'a göre, ChatGPT daha önce ruh sağlığı risklerini önlemek için "ağır kısıtlamalara" tabi tutulmuştu, ancak bu yaklaşım modeli birçok kullanıcı için "daha az kullanışlı ve daha az çekici" hale getirdi. Altman, OpenAI'nin "yetişkinlere yetişkin gibi davranma" ilkesine geçiş yaptığını söyledi.

Doğrulanmış kullanıcılar için kontrollü erişim modunun eklenmesi, zaten hızla büyüyen yetişkin sohbet robotu pazarını daha da canlandırdı.

Elon Musk'ın xAI adlı yapay zeka platformunun, ünlü kişilerle ilgili yetişkinlere yönelik içerik üretme yeteneği konusunda uluslararası medyada son zamanlarda sorgulanmasıyla rekabet ortamı daha da netleşti ve bu durum yeni koruma standartlarına yönelik acil talepleri artırdı.

Yaş doğrulama "sorunu".

Yetişkin içeriklere erişimin açılması büyük bir zorluk teşkil ediyor: kullanıcı yaşının doğrulanması. Kimlik belgeleri kullanılarak yapılan doğrulama yüksek güvenilirlik sunar ancak gizlilik ve kişisel veri güvenliği açısından riskler taşır. Öte yandan, yapay zeka tabanlı davranışsal veya dil tabanlı doğrulama yöntemleri büyük veri kümeleri, karmaşık modeller gerektirir ve yine de kullanıcılar tarafından atlatılma riski taşır.

Yapay zekâ destekli içerik üretiminin özellikleri, bu zorluğu daha da artırıyor. Sohbet botları gerçek zamanlı olarak yeni bilgiler üretebilir, konuşmaları hassas konularda genişletebilir veya belirsiz istekleri uygunsuz içeriklere dönüştürebilir.

Model, görüntü, ses ve video oluşturma gibi birden fazla ortamı desteklediğinde riskler önemli ölçüde artar. Küçükleri ilgilendiren hassas içeriklerin, simüle edilmiş bir biçimde bile olsa, simüle edilmesine veya sentezlenmesine yönelik her türlü yetenek kesinlikle engellenmelidir; bu da geliştiricilerin model tasarım katmanından içerik filtreleme katmanına kadar kontrol mekanizmaları oluşturmasını gerektirir.

Yapay zeka şirketleri üzerindeki sorumluluk baskısı.

OpenAI'nin yetişkin içerik modunu etkinleştirmek üzere olduğu haberi, birçok çocuk koruma örgütü arasında endişeye yol açtı. Örgütler, yapay zeka kullanarak yetişkin içeriği meşrulaştırmanın, istemeden de olsa çocukları "sınırı aşmanın" yollarını aramaya teşvik edebileceği konusunda uyarıda bulunuyor.

Vietnam'da birçok ebeveyn, ChatGPT gibi geleneksel olarak öğrenmeyle ilişkilendirilen bir platformun yetişkinlere yönelik bir mod eklemesinden endişe duyduğunu dile getirdi.

Bu baskılar, yapay zeka şirketlerini "tasarımla güvenlik" ilkesini titizlikle uygulamaya zorluyor: eğitim verilerini kontrol etmek, girdi ve çıktıları izlemek, gerçek zamanlı filtreler kullanmak ve düzenli denetim mekanizmalarını sürdürmek.

Operasyonlarda şeffaflık, koruyucu önlemlerin kamuoyuna açıklanması ve topluluktan gelen geri bildirimlerin kabul edilmesi, savunmasız kullanıcı grupları için risk oluşturmadan yetişkinler için güvenli bir ortam yaratmak için zorunlu şartlar haline geliyor.

OpenAI'nin doğrulanmış kullanıcılara yetişkin içeriklerine erişim izni verme kararı, yalnızca ticari bir dönüm noktası değil, aynı zamanda teknolojik yeniliklerin sorumlu standartlarla desteklenmesi gerektiğinin de bir hatırlatıcısıdır.

Yapay zeka ekosisteminin sürdürülebilir bir şekilde gelişebilmesi için işletmelerin güvenliğe öncelik vermesi ve yenilikçilik ile toplumu koruma sorumluluğu arasında denge kurması gerekmektedir.

ŞARKI TRI

Kaynak: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm