Yapay zekanın kötüye kullanımı nedeniyle 'zihinsel dejenerasyon' riski

İllüstrasyon fotoğrafı.

Yapay zekâ, günlük yaşamdan üretime, eğitimden araştırmaya ve sanatsal yaratıma kadar insan yaşamının neredeyse her alanında mevcuttur. Yapay zekâ, insanların faaliyetlerini optimize etmelerine, üretkenliği artırmalarına ve insan kaynaklarını azaltmalarına yardımcı olur. Yapay zekânın patlaması, makine öğrenimi uygulamalarının ve büyük veri teknolojisinin sürekli gelişimini göstererek yapay zekâyı yeni bir gelişim düzeyine taşımıştır.

Bu büyük faydalarına rağmen yapay zeka, bilgi yaratma sürecini kapalı bir döngüye dönüştürme, yaratıcılığı tehdit etme ve insan düşüncesinin 'yozlaşmasına' yol açma riskiyle karşı karşıyadır.

Uzmanlar, yapay zekanın anlık kullanımının getirdiği kolaylığın uzun vadede entelektüel maliyetlere yol açabileceğini söylüyor.

Beyin işlev bozukluğu ve "bilişsel borç"

Massachusetts Teknoloji Enstitüsü (MIT) tarafından yürütülen dört aylık bir çalışma, yapay zekanın aşırı kullanımının insan beyni üzerindeki derin etkilerine ışık tuttu. 54 makale yazma katılımcısını takip eden çalışma, yapay zeka araçlarına güvenmenin beyin fonksiyonlarını ve eleştirel düşünme becerilerini olumsuz etkileyebileceğini ortaya koydu.

Araştırmacılar, elektroensefalografi (EEG) teknolojisini kullanarak katılımcıların beyin aktivitelerini kaydetti. Sonuçlar çarpıcıydı: Yapay zeka aracını kullanan grup, yalnızca zihinleriyle yazan gruptan önemli ölçüde farklı sinirsel örüntüler sergiledi. Bu grup, özellikle derin düşünme ve hafıza oluşumundan sorumlu bölgelerde, yalnızca zihinleriyle yazan gruba göre %55'e kadar daha az sinirsel bağlantı gösterdi.

Araştırmacılar bu olguya "bilişsel borç" adını veriyor. Şimdi faydalarından yararlanıp daha sonra bedel ödememize olanak tanıyan finansal borca benzer şekilde, bilişsel borç da zihinsel çabamızı dış sistemlere devrettiğimizde ortaya çıkar ve kullanılmadığı için zihinsel kaslarımızın körelmesine neden olur. Yapay zeka aşırı kullanıldığında, insanları pasif tüketicilere dönüştürerek bağımsız düşünme yeteneklerini kaybetmelerine yol açabilir.

Bilişsel performansın azalmasının sonuçları açıktır:

Hafıza Bozukluğu : MIT çalışmasının ilk oturumunda, yapay zeka kullanıcılarının %83'ü kendi yazılarından alıntı yapamadı ve hiçbiri doğru alıntılar sağlayamadı. Birkaç oturumdan sonra bile, çoğu kişi bu temel görevde hala zorluk çekiyordu.

Zayıflamış eleştirel düşünme : Yapay zekanın kullanımı "yüzeysel katılıma" yol açar ve eleştirel düşünme becerilerini zayıflatır, bu da erteleme ve "tembelliği" teşvik edebilir.

Azalmış beyin aktivitesi : Yapay zeka yardımıyla makale yazanların beyin aktivasyonu önemli ölçüde daha azdı; hafıza, eleştirel düşünme ve yönetici işlevlerle ilgili bölgeler önemli ölçüde azalmıştı.

Bilgi yaratma krizi ve "paradigma çöküşü"

Hukuk alanındaki yüksek lisans programlarının sorunu, sentezleme yetenekleri değil, mevcut olanı geri dönüştürme yetenekleridir. Bu sistemler yeni bilgi üretmez, mevcut verileri tüketir ve yeniden dağıtır.

Para, şöhret, merak veya bilgi edinme arzusu gibi birçok nedenden dolayı sürekli yeni yollar arayan insanların aksine, yapay zeka "yeni şeyler" üretemez. Yapay zeka neredeyse her karmaşık soruyu birkaç saniye içinde cevaplayabildiğinde, insan yaratıcılığının ödülü yavaş yavaş ortadan kalkacaktır.

Bu motivasyon kaybı, programcıların bilgi paylaştığı forum olan Stack Overflow örneğinde de açıkça görülüyor: ChatGPT'nin ortaya çıkmasından sadece 6 ay sonra, platformdaki soru sayısı %25'ten fazla azaldı ve şimdi %90'a düştü. Bu, her cevabın doğrulandığı, tartışıldığı ve desteklendiği "canlı bir bilgi tabanının" kaybı anlamına geliyor.

Stack Overflow gibi platformlardan gelen veriler uzun zamandır yapay zeka araçlarını eğitmek için kullanılıyor. Bu bilgi kaynağı kurudukça, yapay zeka daha önce ürettiği verileri giderek daha fazla tekrarlayacak.

Bu olguya "model çöküşü" adı veriliyor. Araştırmacılar, modeller öncelikle yapay zekânın ürettiği verilerle eğitildiğinde, bilgi kalitesinin giderek zayıfladığı ve gerçek dünyanın çeşitliliğini ve doğruluğunu yansıtma yeteneğini kaybettiği konusunda uyarıyor. Columbia Üniversitesi'nden Profesör Hannah Li, "Genel sonuç, modellerin daha da kötüleşmesidir. Modeller daha da kötüleşiyor," diye belirtiyor.

Bilginin homojenleşmesi ve geri dönüştürülmesi riski

Bireysel bilişin azalmasına ek olarak, yapay zekânın kötüye kullanımı bilginin homojenleşmesine de yol açar. Yapay zekâ yardımıyla yazılan makaleler çarpıcı biçimde benzerdir ve "istatistiksel olarak homojen" örüntüler olduğunu gösterir. Bu durum, farklı insan bakış açılarının aynı algoritmik mercekten süzüldüğü ve potansiyel olarak yaratıcı çeşitliliğin engellendiği entelektüel bir monokültür yaratır.

Yapay zekâ, verilerdeki ortak kalıpları vurgulama ve nadir bilgileri, benzersiz ayrıntıları veya istatistiksel gölgelerde kalan verileri giderek göz ardı etme eğilimindedir. Bu eğilim devam ederse, zengin bir bilgi deposu olan İnternet, bilginin sulandığı bulanık bir dünyaya dönüşme riskiyle karşı karşıyadır. İnsanlık, yeni yaratımların ödüllerinin giderek azaldığı, inovasyonun durgunlaştığı bir "bilgi geri dönüşümü" dönemine girebilir.

Yapay zeka güçlü bir araçtır, ancak stratejik bir yaklaşım gerektirir. MIT araştırmacıları olumlu bir işaret buldu: Yapay zekayı kullanmadan önce sağlam bir bilişsel temel geliştirmiş olan katılımcılar, onu daha etkili bir şekilde kullanabildiler ve hatta araçla tanıştıklarında artan sinirsel aktivite gösterdiler. Yapay zekayı bir destek aracı olarak değil, gerçek bir asistan olarak kullandılar.

İnsan bilgisi, çaba, merak ve bilinmeyene doğru yola çıkma cesareti üzerine kuruludur. Ancak, yapay zeka tek "demiryolu" haline gelirse, hem insanların hem de makinelerin daha önce yapılmış olanı tekrarlamak zorunda kalacağı bir kısır döngüye sürüklenme riskiyle karşı karşıya kalırız.

Hien Thao

Kaynak: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291

Yorum (0)