Yapay zekanın karanlık tarafına dikkat edin

Yapay zekâ (YZ), inkâr edilemez faydalarına rağmen, acil etik soruları da beraberinde getirmektedir. Özellikle bilimsel araştırmalarda, YZ'nin kötüye kullanımının öngörülemeyen önyargılara yol açabileceğini gösteren birçok istatistik bulunmaktadır.

Yapay Zeka (YZ) Kanunu taslağının mükemmelleştirilmesi için fikir üretme çalıştayı. (Fotoğraf: HUONG NGUYEN)

Son zamanlarda yaşanan taraflılık ve belge tahrifatı olayları, bilim insanlarının araştırmalarda yapay zekanın uygun katılım düzeyini yeniden gözden geçirmelerine neden oldu.

Dilbilim Profesörü ve Doktoru Nguyen Van Hiep, yakın zamanda kişisel sayfasında okuyucuları şoke eden bir hikaye paylaştı. Yapay Zeka'nın, bir arkadaşının gönderdiği bilgilerle belgelerini sahteciliğe uğrattığını keşfetti. Ayrıca, Doçent ve Bilim Doktoru Tran Van Co'nun makalesinin de yapay zeka tarafından sahteciliğe uğratıldığını tesadüfen keşfetti.

Yapay zeka, insan hayatının vazgeçilmez bir parçası haline geldi, ancak uzmanlar, yapay zekayı yalnızca destekleyici bir araç olarak görmemiz gerektiğini sürekli vurguluyor. Yapay zeka kullanıcılarının, verileri işleyip yapay zeka ile "iş birliği" yaptıktan sonra elde edilen sonuçları değerlendirebilmek için her zaman tetikte ve bilgili olmaları gerekiyor. Özellikle bilimsel araştırmalarda, birçok çalışma, dikkatli olunması gereken en büyük sorunun veri ve modellerdeki önyargı olduğunu göstermiştir. Yapay zeka, iyi kontrol edilmediği takdirde önyargılı olabilir, analiz sonuçlarını çarpıtabilir, önyargı veya ayrımcılık yaratabilir ve bilgileri manipüle edebilir.

Özellikle, yapay zekânın sosyal bilim araştırmalarında kullanımı çok daha fazla dikkat gerektirir. Felsefe, dilbilim, etnoloji, tarih vb. gibi sosyal bilimler alanlarının tümü insan davranışını, kültürünü ve davranışlarını araştırma nesnesi olarak ele aldığından, veriler genellikle Vietnam sosyo-kültürel bağlamıyla derinlemesine ve özgül bir şekilde yakından bağlantılıdır. Yapay zekâ eğitim verileri tarihsel önyargıları yansıtıyorsa, ortaya çıkabilecek tehlike, yapay zekânın cinsiyet, sınıf, ırk veya coğrafi bölge arasındaki eşitsizlik sorunlarını daha da kötüleştirecek sonuçlar çıkarabilmesidir. Yapay zekâ insan davranışlarını analiz etmek, açık anketlere yanıt vermek veya medya içeriklerine katılmak için kullanıldığında risk daha da artar.

Bazı sosyal bilim uzmanlarına göre yapay zekanın şu anda telif hakkıyla korunan veya ücretli veri kaynaklarına erişmesi zor, bu da bilgilerin eksik güncellenmesine neden oluyor.

Mantıklı hikâyeler yaratmak için belge uydurma olgusu, genellikle daha az popüler konularda, Vietnamca gibi sınırlı veri kaynaklarına sahip dillerde ortaya çıkar ve kullanıcıları uyarmak için uyarılmalıdır. Yapay zeka sistemleri genel olarak şu anda sosyal ve kültürel bağlamı anlamada oldukça sınırlıdır, bu nedenle belirsiz, metaforlarla dolu sosyal bilim bilgisini yorumlamadaki yardımları gerçekten güvenilir değildir.

Bilimsel araştırmalarda büyük bir potansiyel taşımasına rağmen, yapay zekanın uygulanmasının çok dikkatli yapılması, sınırlı olması ve araştırmacının eleştirel düşünme yeteneğiyle her zaman el ele gitmesi gerekiyor.

Bilimsel araştırmalara büyük bir potansiyel getirse de, yapay zekanın uygulanmasının çok dikkatli, sınırlı ve araştırmacının eleştirel kapasitesiyle birlikte ele alınması gerektiği görülmektedir. Yapay zeka kullanan kişi, yapay zeka kullanımındaki bu sınırlamaları açıkça belirlemeli ve yapay zekanın bilimin temel değerlerini değiştirmemesini sağlamalıdır. Bilimsel araştırmanın bütünlüğünü korumak için bilim insanlarının rolü ve sorumluluğu yeni bir düzeye yükseltilmelidir. Ayrıca, Vietnam kültürü, gelenekleri ve toplumsal normları bağlamında yasal olarak bağlayıcı bir yapay zeka etik çerçevesinin önerilmesi gerekmektedir.

Bilim ve Teknoloji Bakanlığı tarafından önerilen, güvenli ve sorumlu yapay zekâ sistemlerinin araştırma ve geliştirilmesini teşvik etmek, olumsuz etkileri sınırlamak ve riskleri kontrol altına almak için dokuz ilkeden oluşan bir sistemimiz var. Bu sistem, veri güvenliğinin yanı sıra insan haklarına ve onuruna saygıyı ve yapay zekâ kullanıcılarının hesap verebilirliğini vurgulamaktadır. Özellikle bilimsel araştırmalarda, Profesörler Devlet Konseyi, 2023 yılında, endüstri profesör ünvan konseyleri ve bilimsel çalışmaların kalitesini değerlendiren kuruluşların, yapay zekâ teknolojisi kullanan veya bu teknolojiden yararlanan çalışmaları tespit etme ve değerlendirme konusunda özel dikkat göstermelerini talep eden 25/HDGSNN sayılı Resmi Tebliğ'i yayınlamıştır. Bu gereklilikler, yapay zekâ kullanan araştırma sonuçlarının bilimsel standartları karşılamaya devam etmesini sağlayarak, bilimsel araştırma ve yayınlarda yapay zekânın kötüye kullanılmasını önlemeyi amaçlamaktadır.

Önümüzdeki dönemde Yapay Zeka Kanunu çıkarıldığında, yapay zekanın kullanımında etik ve sorumlulukla ilgili sıkı düzenlemeler getirilerek, yapay zeka gelişimi için sağlıklı bir ortam yaratılmasına katkı sağlanacak, bilim insanlarının araştırma çalışmalarında daha aktif ve sorumlu bir şekilde desteklenmesi sağlanacaktır.

Dans Festivali

Kaynak: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html