ChatGPT ve DeepSeek bilimsel verileri çarpıtıyor

ChatGPT ve DeepSeek gibi yapay zeka modellerinin, özellikle tıp alanında özetleme yaparken bilimsel içeriği çarpıtmaya meyilli olduğu tespit edildi.

Almanya'daki bir grup araştırmacı, araştırma içeriğini kısaltmak için yapay zeka sohbet robotları kullanırken önyargı riski konusunda yakın zamanda uyarıda bulundu. İnsanlar tarafından yazılmış 4.900 bilimsel özeti analiz eden ekip, bu sistemlerin bilgileri nasıl işlediğini karşılaştırmak için çeşitli yapay zeka modelleri kullandı. Sonuçlar, çoğu sohbet robotunun, doğru bir şekilde özetlemeleri istendiğinde bile aşırı genelleme yapma hatasına düştüğünü gösterdi.

Yapay zeka, bilimsel araştırmaları özetlerken önyargıya eğilimlidir.

Testlerde, yapay zeka modelleri yönlendirilmedikleri zaman insan uzmanlara göre beş kat daha fazla hata yaptı. Doğrulukları açıkça sorulduğunda bile, hata oranı standart bir özetin iki katıydı. Ekip üyelerinden biri, "Genellemeler bazen zararsız görünebilir, ancak aslında orijinal araştırmanın doğasını değiştirirler," dedi. "Bu sistematik bir önyargı."

Dikkat çekici bir şekilde, sohbet robotunun yeni sürümleri sorunu çözmekte başarısız olmakla kalmayıp, durumu daha da kötüleştirdi. Akıcı ve ilgi çekici dilleriyle, yapay zeka tarafından oluşturulan özetler kolayca güvenilir görünebiliyor, ancak asıl içerik çarpıtılıyor. Bir örnekte DeepSeek, "güvenli ve başarıyla uygulanabilir" ifadesini "güvenli ve etkili tedavi" olarak değiştirdi; bu da orijinal çalışmanın sonuçlarının yanlış yorumlanması anlamına geliyor.

Başka bir örnekte, Llama modeli gençlere diyabet ilacı önerirken dozaj, sıklık veya yan etkiler konusunda herhangi bir ayrıntı vermemiştir. Okuyucu, orijinal araştırmayı doğrulamayan bir doktor veya sağlık uzmanıysa, bu tür özetler hastalar için doğrudan risk oluşturabilir.

Uzmanlar, bu olgunun kökeninin yapay zeka modellerinin eğitilme biçiminden kaynaklandığını söylüyor. Günümüzde birçok sohbet robotu, popüler bilim haberleri gibi halihazırda basitleştirilmiş ikincil verilerle eğitiliyor. Yapay zeka kısaltılmış içeriği özetlemeye devam ettikçe, bozulma riski artıyor.

Zihinsel sağlık alanında çalışan yapay zeka uzmanları, yapay zekanın geliştirilmesi ve kullanılması aşamasında teknik engellerin erken dönemde oluşturulması gerektiğini söylüyor.

Kullanıcıların dikkatli olması gerekiyor çünkü chatbot'lar içeriği kolayca çarpıtabiliyor.

Kullanıcılar bilim hakkında bilgi edinmek için yapay zeka sohbet robotlarına giderek daha fazla güvendikçe, yorumlamadaki küçük hatalar hızla birikip yayılarak yaygın yanlış algılara yol açabiliyor. Bilime güvenin azaldığı bir dönemde, bu risk daha da endişe verici hale geliyor ve gereken ilgiyi hak ediyor.

Yapay zekanın bilgi araştırma ve yayılımına entegrasyonu geri döndürülemez bir eğilimdir. Ancak uzmanlar, teknolojinin bilimsel içeriği anlama ve doğrulamada insanların rolünün yerini alamayacağını savunuyor. Tıp gibi yüksek riskli alanlarda sohbet robotları kullanırken, yalnızca akıcı bir dil deneyimine veya yanıt hızına odaklanmak yerine, doğruluk en önemli öncelik olmalıdır.

Kaynak: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html