Yapay Zeka Yasa Tasarısı Yapay zekanın tıpta kullanımı tıbbi cihazlar gibi denetlenmeli

Sağlık sektörünün, yapay zekâ uygulamaları da dahil olmak üzere, sıkı denetime tabi tutulması gereken hassas, yüksek riskli bir alan olduğu göz önüne alındığında, bazı delegeler Yapay Zeka Kanunu Tasarısı'nda, sağlık sektöründeki yapay zekânın tıbbi cihazlar gibi denetlenmesi gerektiğine dair düzenlemelerin yer alması gerektiğini ileri sürdü.

Yapay Zeka Hukuku projesi hakkında salonda yapılan tartışma oturumunun sahnesi

Sağlık hizmetleri için yapay zeka ürünlerini yönetme

Sağlık sektöründe çalışan bir delege olan Ulusal Meclis Milletvekili Tran Khanh Thu ( Hung Yen ), yapay zekanın (YZ) sağlık sektöründeki etkilerini oldukça takdir etti. Bu sektör, yapay zeka uygulamaları için en fazla potansiyele sahip alanlardan biri olup, teşhis, tedavi, hasta yönetimi ve ilaç araştırma ve geliştirme süreçlerinde açık etkilere sahiptir.

Ancak yakın zamanda Ho Chi Minh şehrinde 55 yaşında bir hasta, çevresinde olup bitenlerin farkında olmadan, halsiz bir halde acil servise getirildi. Hastanın kızı, annesinin daha önce başının döndüğünü ve nefes almakta zorlandığını gördüğünü ve bu nedenle AI'dan kendisine teşhis koymasını istediğini söyledi. Sonuçlar, yüksek tansiyonu olduğunu gösterdi.

Ulusal Meclis Milletvekili Tran Khanh Thu (Hung Yen) konuşuyor

Delege, oğlunun annesinin tansiyonunu ölçtüğünü ve gerçekten yükseldiğini gördüğünü, bu yüzden annesine ilaç almak için eczaneye gittiğini söyledi. Ancak ilacı aldıktan sonra annenin durumu kötüleşti, halsizleşti, sık sık kustu ve bilincini kaybetti, bu yüzden onu acil servise götürdü. Hastanede doktor, hastanın beyin hasarı ve felç geçirdiğini doğruladı. Kritik aşamadan kurtarılmış olsa da, sonuçları kaçınılmazdı.

Delege, internetin günümüzde çok popüler olduğunu, özellikle de yapay zekanın, hastalıkları hakkında daha fazla bilgi edinmek isteyen hastalar için çok iyi bir bilgi kaynağı olduğunu açıkça söyledi... Ancak, insanların sonuçları kendileri için ilaç aramak, teşhis koymak veya reçete yazmak için kesinlikle kullanamayacaklarını ve yapay zeka reçetelerine göre ilaç satan kişilerin yasayı mı çiğnediğini sordu. Delege bu konuyu gündeme getirdi.

Temsilci ayrıca, yapay zekânın sağlık hizmetlerinde uygulanmasına yönelik özel ve eksiksiz bir yasal çerçevemizin olmadığını da belirtti. Tıbbi Muayene ve Tedavi Kanunu veya Eczacılık Kanunu gibi kanunlar tıbbi muayene ve tedavi faaliyetlerini ve tıbbi ürünleri düzenlese de, tıpta yapay zekâ kullanılan ürünlere ilişkin özel düzenlemeler henüz netlik kazanmamıştır.

Ayrıca, yapay zeka tabanlı tıbbi muayene ve tedavi ürünleri, bu ürünlere özgü yapay zeka standartları ve düzenlemeleri olmadığından, hala tıbbi cihazlar için genel lisanslama prosedürlerine tabidir.

Tartışma oturumuna katılan delegeler

Delege, "Ayrıca, yapay zeka hatalarında hukuki sorumluluk, tıbbi veri güvenliği ve hasta güvenliği gibi bazı hususların mevcut yasal belgelerde açıkça düzenlenmediğini" vurguladı.

Yukarıdaki gerçekliğe dayanarak, delege Tran Khanh Thu, Yapay Zeka Kanunu Taslağının, özellikle ilgili tarafların sorumlulukları olmak üzere, sağlık alanında yapay zeka ürünlerinin yönetimi için daha spesifik hükümler, şartlar ve yasal çerçeveler içermesini umuyor.

Sağlık sektörünün hassas ve yüksek riskli bir alan olduğu ve yapay zeka uygulamalarında sıkı bir denetim gerektirdiği göz önüne alındığında, Ulusal Meclis delegesi Le Van Kham (Ho Chi Minh Şehri), düzenlemelerin incelenmesi gerektiğini ve sağlık hizmetlerindeki yapay zekanın tıbbi cihazlar gibi denetlenmesi gerektiğini öne sürdü. Yapay zekanın klinik karar alma süreçlerini desteklediği zorunlu denetim kategorileri şunlardır: Yapay zeka teşhisi, ölüm veya komplikasyon riskini tahmin eden yapay zeka, yapay zeka kullanan cerrahi robotlar, reçete veya tedavi rejimini destekleyen yapay zeka.

Ayrıca, delegeler, hasta güvenliğini sağlamak amacıyla sağlık hizmetlerinde yapay zeka dolaşımının izlenmesine ilişkin periyodik raporlama, hızlı olay uyarısı, algoritma denetimi ve gerçek zamanlı hata izleme gibi düzenlemelerin yapılmasını önerdiler. Bu kanunda ilkesel düzenlemeler olduğunda, yetkili makam bunları uygulamak için alt mevzuat belgeleri yayınlayacak ve tıbbi yapay zeka yönetiminde yönetim araçları ve uygun önlemler oluşturacaktır.

Toplantıdan görünüm. Fotoğraf: Quang Khanh

Aynı zamanda, yasa tasarısını hazırlayan kurumun, yasa tasarısının 9. maddesinde belirtildiği gibi tedarikçilerin tıbbi yapay zeka risklerini kendi kendilerine sınıflandırmalarına izin vermeyi dikkatlice değerlendirmesi gerektiğini de sözlerine ekledi.

Yüksek riskli yapay zeka dağıtımlarının veri etkisinin değerlendirilmesi

Risk sınıflandırmasının Yapay Zeka Yasası'nın özü olduğunu vurgulayan Ulusal Meclis Milletvekili Thach Phuoc Binh (Vinh Long), yasa tasarısının henüz niceliksel sınıflandırma kriterleri sağlamadığını belirtti. Yüksek riskli yapay zeka sistemleri listesi, uygulamada önemli bir riskin ortaya çıkmadığı alanlar da dahil olmak üzere nispeten geniş bir şekilde düzenleniyor. Bu durum, özellikle küçük ve orta ölçekli işletmeler için gereksiz uyumluluk yükleri yaratabilir.

Ulusal Meclis Delegesi Thach Phuoc Binh (Vinh Long) konuşuyor. Fotoğraf: Pham Thang

Bu nedenle, delegeler, yüksek riskli listeyi yalnızca insan hakları, mahremiyet, sağlık, finans ve sosyal güvenlik üzerinde büyük etkisi olabilecek sistemlere odaklanacak şekilde gözden geçirmenin gerekli olduğunu öne sürdüler. Aynı zamanda, uzmanlar, sektör dernekleri ve araştırma kuruluşlarıyla istişare ederek yüksek riskli listeyi esnek bir şekilde güncelleyecek bir mekanizma oluşturun. Risk kriterlerini, otomasyon, kendi kendine öğrenme yeteneği, öngörülemezlik ve kullanım ölçeği gibi modelin teknik özelliklerine ekleyin.

Veri, gizlilik ve kullanıcı koruması konusunda delege Thach Phuoc Binh, verinin yapay zekânın "yakıtı" olduğunu, ancak taslak Kanun'un mevcut hükümlerinin Kişisel Verilerin Korunması Kanunu ile uyumlu olmadığını belirtti. Hassas veriler, çocuk verileri ve biyometrik veriler için izin verilen işleme düzeyinin açıklığa kavuşturulması gerektiğini belirtti. Aynı zamanda, yüksek riskli yapay zekâ uygulamaları sırasında verilerin etkisinin değerlendirilmesi zorunluluğunun da eklenmesi gerektiğini belirtti.

Yapay zeka kullanıcıları için yasa tasarısı bazı temel haklardan bahsetse de, uluslararası standartlara göre önemli haklardan yoksundur: tam otomatik kararları reddetme hakkı veya açıklama talep etme hakkı. Bunlar, finans, sigorta, sağlık veya iş gücü alımı alanlarında yapay zeka temelli kararlardan insanların zarar görmesini önlemek için çok önemli haklardır.

Bilim ve Teknoloji Bakanı Nguyen Manh Hung, Ulusal Meclis milletvekillerinin toplantıdaki görüşlerini açıklıyor. Fotoğraf: Ho Long

Delege, deepfake, ses, görüntü ve video sahteciliğinin bilgi güvenliği ve gizliliğini ciddi şekilde etkileyen birçok olaya yol açtığını belirtti. Yasa tasarısının 9. maddesi, yapay zekâ çıktılarının etiketlenmesini şart koşsa da, hangi tür içeriklerin etiketlenmesi gerektiği, dijital deneyimi olumsuz etkilemeden kullanıcıları korumak için hangi düzeyde etiketleme yapılması gerektiği ve sosyal ağ platformlarının sahte içeriği tespit edip kaldırma sorumluluğu gibi bazı noktaların açıklığa kavuşturulması gerekmektedir. Katı ancak esnek bir etiketleme mekanizması tasarlamak son derece gerekli bir unsurdur.

Delege ayrıca, uygunluk değerlendirme sisteminin yasa tasarısının en teknik içeriklerinden biri olduğunu belirtti. Ancak, ön denetim mekanizmasını çok yoğun bir şekilde tasarlarsak, istemeden de olsa inovasyonu engelleyebiliriz.

Bu nedenle, delege Thach Phuoc Binh, yalnızca yüksek riskli sistemler için sertifikasyon zorunluluğu getirilmesini ve düşük ve orta riskli sistemler için öz değerlendirme yapılmasına olanak sağlanmasını önerdi. Talep-onay mekanizmasının oluşturulmasını önleyerek, açık ve şeffaf bir değerlendirme süreci sağlanmasını istedi.

Source: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html