Yapay zekanın kötüye kullanımı nedeniyle 'düşünme yeteneğinin bozulması' riski.

DNVN - Son araştırmalar, insanlığın yapay zekaya (YZ) ve özellikle ChatGPT gibi büyük dil modellerine (LLM) olan artan bağımlılığının öngörülemeyen sonuçları konusunda alarm zillerini çalmıştır.

Örnek görsel.

Yapay zekâ, günlük aktivitelerden üretime, eğitime , araştırmaya ve sanatsal yaratıma kadar insan yaşamının neredeyse her alanında mevcuttur. Yapay zekâ, insanların operasyonları optimize etmelerine, verimliliği artırmalarına ve insan gücünü azaltmalarına yardımcı olur. Yapay zekânın hızla yayılması, makine öğrenimi ve büyük veri teknolojisi uygulamalarının sürekli büyümesini göstermiş ve yapay zekâyı yeni bir gelişim seviyesine taşımıştır.

Bu muazzam faydalarına rağmen, yapay zekâ, bilgi yaratma sürecini kapalı bir döngüye dönüştürme, yeniliği tehdit etme ve insan düşüncesinin 'dejenerasyonuna' neden olma riski taşımaktadır.

Uzmanlara göre, yapay zekanın kullanımındaki anlık kolaylık, uzun vadeli entelektüel kaynakların kaybına yol açabilir.

Beyin fonksiyonlarında gerileme ve “bilişsel borç”

Massachusetts Teknoloji Enstitüsü (MIT) tarafından dört ay süren bir çalışma, yapay zekanın aşırı kullanımının insan beyni üzerindeki derin etkilerine ışık tuttu. 54 katılımcının izlendiği çalışma, yapay zeka araçlarına bağımlılığın beyin fonksiyonlarını ve eleştirel düşünme becerilerini bozabileceğini ortaya koydu.

Araştırmacılar, elektroensefalografi (EEG) teknolojisini kullanarak katılımcıların beyin aktivitesini kaydetti. Sonuçlar şaşırtıcıydı: Yapay zeka aracını kullanan grup, yalnızca zihinsel olarak yazan gruba kıyasla önemli ölçüde farklı sinirsel örüntüler sergiledi. Bu grup, özellikle derin düşünme ve hafıza oluşumundan sorumlu alanlarda, yalnızca beyin kullanan gruba göre %55'e kadar daha az sinirsel bağlantı gösterdi.

Araştırmacılar bu olguyu "bilişsel borç" olarak adlandırıyor. Şimdiki faydaları elde etmemizi sağlayan ancak daha sonra maliyetlere yol açan finansal borca ​​benzer şekilde, bilişsel borç da entelektüel çabayı dış sistemlere devrettiğimizde ortaya çıkar ve zihinsel kaslarımızın kullanılmadığı için körelmesine neden olur. Kötüye kullanıldığında, yapay zeka insanları pasif tüketicilere dönüştürebilir ve bağımsız düşünme yeteneğini kaybetmelerine yol açabilir.

Bilişsel işlevdeki azalmanın sonuçları açıktır:

Hafıza bozukluğu : MIT çalışmasının ilk oturumunda, yapay zeka kullanıcılarının %83'ü kendi yazılarından alıntı yapamadı ve hiçbiri doğru bir alıntı sağlayamadı. Birkaç oturumdan sonra bile, birçoğu bu temel görevde hâlâ zorlanıyordu.

Eleştirel düşünmeyi zayıflatma : Yapay zekanın kullanımı "yüzeysel etkileşime" yol açar ve eleştirel düşünme becerilerini zayıflatarak erteleme ve tembelliği teşvik edebilir.

Azalmış beyin aktivitesi : Yapay zeka yardımıyla makale yazan bireylerde beyin aktivitesi önemli ölçüde azaldı; hafıza, eleştirel düşünme ve yürütücü işlevlerle ilgili alanlarda belirgin bir düşüş gözlendi.

Bilgi yaratımı krizi ve "model çöküşü"

LLM'lerin sorunu sentez yeteneklerinde değil, yalnızca zaten var olanı yeniden kullanmayı bilmelerinde yatmaktadır. Bu sistemler yeni bilgi üretmez; öncelikle mevcut verileri kullanır ve yeniden dağıtır.

Para, şöhret, merak veya bilgi edinme arzusu gibi çeşitli motivasyonlarla sürekli yeni yönler arayan insanlardan farklı olarak, yapay zeka "yenilik" üretemez. Yapay zeka neredeyse her karmaşık soruyu birkaç saniyede yanıtlayabildiğinde, insan yaratıcılığının ödülleri yavaş yavaş ortadan kalkacaktır.

Bu ivme kaybı, programcıların bilgi paylaştığı bir forum olan Stack Overflow örneğiyle gösterilmiştir: ChatGPT'nin ortaya çıkmasından sadece 6 ay sonra, platformdaki soru sayısı %25'ten fazla azalmış ve şu anda %90 oranında düşmüştür. Bu, her cevabın doğrulandığı, tartışıldığı ve tamamlandığı "canlı bir bilgi tabanının" kaybıdır.

Stack Overflow gibi platformlardan elde edilen veriler, eskiden yapay zeka araçlarının eğitim kaynağıydı. Bu bilgi kaynağı kurudukça, yapay zeka giderek daha çok daha önce ürettiği şeyleri tekrarlayacaktır.

Bu olgu "model çökmesi" olarak bilinir. Araştırmacılar, modeller öncelikle yapay zekanın kendi ürettiği verilerle eğitildiğinde, bilginin kalitesinin giderek bozulduğunu ve gerçek dünyanın çeşitliliğini ve doğruluğunu yansıtma yeteneğini kaybettiğini belirtiyor. Columbia Üniversitesi'nden Profesör Hannah Li şu sonuca varıyor: "Genel sonuç, durumun daha da kötüleşeceği yönünde. Modeller daha da kötüleşecek."

Bilgi homojenizasyonu ve geri dönüşümünün riskleri.

Bireysel farkındalığın azalmasının yanı sıra, yapay zekanın kötüye kullanımı bilginin homojenleşmesine de yol açmaktadır. Yapay zeka yardımıyla yazılan makaleler çarpıcı benzerlikler göstererek "istatistiksel olarak homojen" kalıpları ortaya koymaktadır. Bu durum, çeşitli insan bakış açılarının aynı algoritmik mercekten süzüldüğü ve yaratıcı çeşitliliği potansiyel olarak boğduğu bir tür entelektüel tek kültür yaratmaktadır.

Yapay zekâ, verilerdeki ortak kalıpları vurgulama eğilimindedir ve nadir bilgileri, benzersiz ayrıntıları veya istatistiklerin gölgesinde kalan verileri giderek göz ardı etmektedir. Bu eğilim devam ederse, zengin bir bilgi deposu olan internet, bilginin kaybolduğu sulandırılmış bir dünyaya dönüşme riski taşır. İnsanlık, yeni yaratımların ödülleri giderek belirsizleştikçe inovasyonun durgunlaştığı bir "bilgi geri dönüşümü" çağına girebilir.

Yapay zekâ güçlü bir araçtır, ancak stratejik bir yaklaşım gerektirir. MIT araştırmacıları cesaret verici bir işaret buldu: Yapay zekâyı kullanmadan önce sağlam bir bilişsel temel geliştirmiş olan katılımcılar, yapay zekâyı daha etkili bir şekilde kullanabildiler ve hatta yapay zekâyla tanıştıklarında sinirsel aktivitelerinde artış gözlemlediler. Yapay zekâyı sadece bir destek aracı olarak değil, gerçek bir asistan olarak kullandılar.

İnsan bilgisi, çaba, merak ve bilinmeyene doğru yolculuk etme cesaretiyle inşa edilir. Ancak, yapay zekayı tek "yol" haline getirirsek, hem insanların hem de makinelerin yalnızca daha önce yapılmış olanı tekrarladığı kısır bir döngüye girme riskiyle karşı karşıya kalırız.

Hien Thao

Kaynak: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291