ChatGPT ve DeepSeek bilimsel verileri çarpıtıyor.

ChatGPT ve DeepSeek gibi yapay zeka modellerinin, özellikle tıp alanında, bilimsel içeriği özetlerken çarpıtabildiği tespit edilmiştir.

Báo Khoa học và Đời sống•08/07/2025

Almanya'daki bir grup araştırmacı, yapay zekâ destekli sohbet robotlarının araştırma içeriğini kısaltmada potansiyel önyargı riski konusunda uyarıda bulundu. 4.900 insan tarafından yazılmış bilimsel özeti analiz ettikten sonra, grup bu sistemlerin bilgiyi nasıl işlediğini karşılaştırmak için çeşitli yapay zekâ modelleri kullandı. Sonuçlar, çoğu sohbet robotunun, doğru özetleme yapmaları istendiğinde bile, aşırı genelleme hatası yaptığını gösterdi.

Yapay zekâ, bilimsel araştırmaları özetlerken içeriği kolayca bozabilir.

Deneylerde, yapay zeka modelleri, yönlendirilmedikleri takdirde insan araştırmacılardan beş kat daha fazla hata yaptı. Doğruluk için net gereksinimler olsa bile, hata oranı standart bir özetle karşılaştırıldığında iki kat daha yüksekti. Araştırma ekibinin bir üyesi şu yorumu yaptı: “Genelleme bazen zararsız gibi görünebilir, ancak aslında orijinal araştırmanın doğasını değiştirir. Bu sistemik bir önyargıdır.”

Özellikle, chatbot'ların daha yeni sürümleri sorunu çözmek bir yana, daha da kötüleştiriyor. Yapay zeka tarafından oluşturulan özetler, akıcı ve ilgi çekici sunumlarıyla kolayca güvenilirlik izlenimi verirken, gerçek içerik çarpıtılıyor. Bir örnekte, DeepSeek "güvenli ve başarılı bir şekilde uygulanabilir" ifadesini "güvenli ve etkili tedavi" olarak değiştirdi; bu yorum, çalışmanın orijinal sonuçlarından sapıyordu.

Bunlar da ilginizi çekebilir

Paris, Seine Nehri'ni "klima"ya dönüştürmek için nasıl milyarlarca euro harcadı?(Dan Tri Gazetesi) - Bireysel soğutma cihazlarına olan ihtiyacı azaltmak için Paris, Seine Nehri'nden alınan suyu kullanan kentsel soğutma sistemini genişletmek amacıyla 2,4 milyar euro yatırım yaptı.

NASA, görüntüleri Dünya'ya geri göndermeye gerek duymayan yapay zekâ uydusunu başarıyla test etti.Bilim insanları, yörüngeden yaptığı gözlemleri bağımsız olarak tanımlayabilen ve açıklayabilen, tüm görüntüleri Dünya'ya geri göndermeye gerek duymayan bir uyduyu ilk kez başarıyla test ettiler.

Viettel, yapay zeka çözümleri geliştiren rakip takımlara gerçek dünya verilerini açıyor.2 Temmuz'da Vietnam Askeri Telekomünikasyon Grubu (Viettel), Viettel Yapay Zeka Yarışması 2026'yı başlattı. Bu yılki yarışmanın en önemli özelliği, başarılı takımların gerçek dünya verilerine erişebilecekleri, uzmanlarla doğrudan çalışabilecekleri ve Viettel'in üretim ve iş operasyonlarında karşılaştığı sorunları çözebilecek olmalarıdır.

Başka bir örnekte, Llama modeli genç bireylere diyabet ilaçları için dozaj, sıklık veya yan etkiler belirtmeden önerilerde bulunmuştur. Okuyucu, bir doktor veya sağlık çalışanı, orijinal çalışmayla karşılaştırma yapmazsa, bu tür özetler hastalar için doğrudan tehlike oluşturabilir.

Uzmanlar, bu olayın yapay zeka modellerinin eğitilme biçiminden kaynaklandığına inanıyor. Günümüzdeki birçok sohbet robotu, zaten basitleştirilmiş olan ikincil veriler (örneğin, seri üretilmiş bilimsel haberler) kullanılarak eğitiliyor. Yapay zeka bu basitleştirilmiş içeriği özetlemeye devam ettikçe, bozulma riski de artıyor.

Ruh sağlığı alanındaki yapay zeka uzmanları, yapay zekanın geliştirilmesi ve kullanımının önündeki teknik engellerin bir an önce ortadan kaldırılması gerektiğini savunuyor.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Kullanıcılar dikkatli olmalıdır çünkü chatbot'lar içeriği kolayca bozabilir.

Kullanıcılar bilimsel bilgileri öğrenmek için giderek daha fazla yapay zekâ destekli sohbet robotlarına güvendikçe, yorumlamadaki küçük hatalar hızla birikip yayılabilir ve yaygın yanlış anlamalara yol açabilir. Bilime olan güvenin azaldığı bir dönemde, bu risk özellikle endişe vericidir ve gereken özeni gerektirir.

Amerika Birleşik Devletleri - Vietnam: Kaçırma

Dışişleri Bakanlığı, ABD'nin Vietnam Büyükelçisi için hazırlanan Güven Mektubunun bir kopyasını aldı.2 Temmuz öğleden sonra, Dışişleri Bakanlığı merkezinde, Devlet Protokolü ve Yabancı Diller Tercüme Dairesi Müdürü Sayın Le Cong Dung, Amerika Birleşik Devletleri'nin Vietnam Büyükelçisi Sayın Jennifer Wicks'ten Güven Mektubu'nun bir kopyasını teslim aldı.

Büyükelçi Nguyen Quoc Dung, ABD'nin Minnesota eyaletini ziyaret etti ve orada çalışmalar yürüttü.Vietnam'ın ABD Büyükelçisi Nguyen Quoc Dung, 28-30 Haziran tarihleri arasında Minnesota'yı ziyaret ederek burada çalışmalar yürüttü.

Vietnam, ABD şirketlerini yüksek teknoloji alanındaki yatırımlarını genişletmeye teşvik ediyor.26 Haziran sabahı, Hükümet Merkezi'nde Başbakan Yardımcısı Ho Quoc Dung, Coherent Group (ABD) Tedarik Zinciri Direktörü Jeff Place'i kabul etti. Görüşmede Başbakan Yardımcısı, Vietnam'ın ABD şirketlerini özellikle yüksek teknoloji, inovasyon ve yarı iletken sektörlerinde yatırımlarını genişletmeye teşvik ettiğini belirtti.

Yapay zekanın araştırma ve bilgi yayımına entegrasyonu geri döndürülemez bir trenddir. Ancak uzmanlar, teknolojinin bilimsel içeriği anlama ve doğrulama konusunda insanların rolünün yerini alamayacağını savunmaktadır. Sağlık gibi yüksek riskli alanlarda sohbet robotları kullanılırken, yalnızca akıcı dil deneyimine veya yanıt hızına odaklanmak yerine doğruluğa öncelik verilmelidir.

Kaynak: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html