Yapay zekâ kullanımından çıkarılan dersler

Daha önce, Bakanlığın İl Halk Komitesine sunduğu raporda çok sayıda yazım hatası, teknik hata, konu yanlış yorumlaması ve temel veri yanlışlığı bulunmaktaydı. Bunlar arasında yanlış yazımlar, atlamalar ve kelimelerin çarpıtılması yer alıyordu: "mở dữ liệu" (açık veri) "mở dữ li" (açık veri li) oldu, "ươm tạo doanh nghiệp" (kuluçkadaki işletmeler) "xà tạo" (kuluçka), "cơ hội và thách thức" (fırsatlar ve zorluklar) "cộc đua vận động" (kampanya yarışı), "27 saat" oldu (27 konferans) "27" oldu "hội viện" (27 parlamento)... Bu temel hatalar oldukça sık ortaya çıktı ve bu da belgelerin imzalanmadan önce gözden geçirilmesi ve doğrulanmasının titizlikle yapılmadığını gösteriyor.

Raporda yer alan bazı teknik terimler yanlış kullanılmış veya ciddi şekilde çarpıtılmış, bu da tavsiye içeriğinin niteliğini tamamen değiştirmiştir. Örneğin, "sınır kuşağı ulaşım aksının güçlendirilmesi" ifadesi "sınır kuşağı takviyesi" olarak; "fidanlık kurulması" ifadesi "benzer ağaç fidanlarının kurulması" olarak; "çevrimiçi toplantı platformu" ifadesi "çevrimiçi sergi platformu" olarak; ve " eğitim ekosistemi" ifadesi "biyolojik tutum eğitim sistemi" olarak değiştirilmiştir.

Devlet yönetiminin birçok yönü de yanlış yorumlanmakta, bu da anlayışı ve uygulamayı engellemektedir. Örneğin, "94 vakayı tespit etti, doğruladı ve ele aldı; 91 sanığı içeren 51 vakada yasal işlem başlattı" ifadesi "94 görevi tespit etti, doğruladı ve ele aldı; 51 hizmet ve 91 potansiyel cihaz başlattı" şeklinde değiştirilerek bilgi tamamen çarpıtılmış ve liderlik ve yönetimde önemli bir yanlış anlama riski oluşturulmuştur.

Rapor ayrıca, bilimsel görevlerin, programların ve araştırma konularının adlarının yanlış yazılması; tarihi ve kültürel kalıntıların ve yer işaretlerinin adlarının yanlış yazılması; hatta yasal belgelerin, yetkili kurumların ve alıntı yapılan içeriğin adlarının çarpıtılması gibi hatalar içermekte olup, bu durum raporu hukuken geçersiz ve kullanılamaz hale getirmektedir.

Birçok görüşe göre, söz konusu "rapor", profesyonel personel tarafından kontrol edilmeden, incelenmeden veya değerlendirilmeden, çevrimiçi araçlar ve yapay zekâ kullanılarak hazırlanmış belgelerin özelliklerini sergiliyor. Bu çok tehlikeli bir durum, çünkü uzmanlaşmış bir departman, danışma raporu yayınlamadan önce, uzmanlardan ve ilgili departmanlardan liderlere kadar birçok "filtre"den geçmek zorundadır. Ancak bu "filtrelerde" sorunlar var ve bu tür dikkatsiz ve sorumsuz bir raporun geçmesine izin veriyorlar.

Olay ayrıca, "raporu" oluşturan çevrimiçi araç olan yapay zekanın kullanıcısının, Yapay Zeka Kanunu'nun 4. Maddesinin 2. Fıkrasını ihlal ettiğini de göstermektedir. Bu fıkra, yapay zeka işlemlerinde temel ilke olarak şöyle der: "Yapay zeka insanlığa hizmet eder, insan otoritesinin ve sorumluluğunun yerini almaz. İnsan kontrolünün korunmasını ve yapay zeka sisteminin tüm kararlarına ve eylemlerine müdahale etme yeteneğini sağlar." Bu durumda, yetkilinin rapor hazırlama işini tamamen yapay zekaya devretmiş olması ve bunun sonucunda söz konusu "ürünün" ortaya çıkmış olması ihtimali göz ardı edilemez.

Olayın ardından, yerel Halk Komitesi Başkanı, ilgili departmanın müdüründen olayın nedenini gözden geçirmesini, kapsamlı danışmanlık çalışmalarını düzeltmesini ve yapay zekâ kullanım sürecini sıkılaştırmasını istedi. Bu olay, dijital araçların ve yapay zekânın kullanımı konusunda herkes için ciddi bir ders niteliğindedir; yapay zekânın birçok faaliyette yalnızca insanlara destek olmak için kullanılabileceği, insanlar tarafından denetlenmesi, kontrol edilmesi ve hesap verebilirliğinin sağlanması gerektiği unutulmamalıdır.

Yorum (0)