Po południu 27 listopada, pod przewodnictwem wiceprzewodniczącego Zgromadzenia Narodowego Le Minh Hoana, Zgromadzenie Narodowe omawiało w sali projekt ustawy o sztucznej inteligencji.
Brak regulacji dotyczących odszkodowań i odpowiedzialności ubezpieczeniowej
Odnosząc się do artykułu 20 projektu ustawy o mechanizmie kontrolowanych testów rozwoju sztucznej inteligencji, poseł Zgromadzenia Narodowego Hoang Minh Hieu ( Nghe An ) stwierdził, że głównym celem mechanizmu kontrolowanych testów sztucznej inteligencji (AI) jest usunięcie barier prawnych utrudniających rozwój modeli AI, umożliwiając ograniczone testowanie w celu uzyskania danych potwierdzających skuteczność, a tym samym promując długoterminową reformę regulacyjną. To podejście jest również bardzo spójne z naszym obecnym tokiem myślenia legislacyjnego, zgodnie z którym instytucje muszą najpierw torować drogę rozwojowi.
Delegat podkreślił, że przepisy dotyczące mechanizmów kontrolowanych testów muszą stanowić podstawę ram prawnych dotyczących sztucznej inteligencji, zatem organ sporządzający projekt ustawy powinien zbadać i uregulować tę kwestię bardziej szczegółowo w projekcie ustawy.
W związku z tym delegat zaproponował przegląd przepisów dotyczących zwolnień lub zmniejszeń niektórych obowiązków w zakresie zgodności dla organizacji i osób uczestniczących w kontrolowanych badaniach klinicznych, zgodnie z klauzulą 2, art. 20 projektu ustawy. Takie przepisy prowadzą do ograniczenia zakresu zwolnień do przepisów niniejszej ustawy, podczas gdy systemy sztucznej inteligencji często są powiązane z wieloma innymi istotnymi przepisami prawnymi.
Delegaci przywołali mechanizm testowania sztucznej inteligencji w autonomicznych samolotach pasażerskich w Japonii, który jest zwolniony z niektórych przepisów dotyczących zapewnienia bezpieczeństwa lotniczego. Podobnie testowanie autonomicznych samochodów w Chinach i Japonii jest zwolnione z przepisów ustawy o ochronie danych osobowych, która przewiduje wykorzystywanie danych obrazowych bez konieczności zamazywania twarzy uczestników ruchu drogowego do szkolenia i trenowania widzenia sztucznej inteligencji.
Biorąc pod uwagę doświadczenia innych krajów, delegaci zaproponowali, aby agencja odpowiedzialna za przygotowanie badania zawarła w artykule 20, klauzulę 2, jedynie zapis jasno określający, że organizacje i osoby biorące udział w kontrolowanych badaniach klinicznych są zwolnione z niektórych obowiązków przestrzegania przepisów określonych w niniejszej ustawie i innych stosownych ustawach lub mają z nich ograniczone obowiązki.
Artykuł 20 ust. 5 nakłada na państwową agencję zarządzania sztuczną inteligencją obowiązek organizowania przyjmowania, oceny i przetwarzania dokumentacji w celu uczestnictwa w kontrolowanych działaniach testowych zgodnie z procesem oceny i szybkiej reakcji.
Delegat Hoang Minh Hieu zauważył, że systemy AI to nie tylko kwestie związane z technologią i algorytmami… ale także zagadnienia multidyscyplinarne i interdyscyplinarne. Dlatego też zapisy w punkcie 5 prawdopodobnie dotyczą jedynie systemów AI ogólnego przeznaczenia, takich jak AI generatywna (ChatGPT, Gemini)… Jeśli chodzi o wyspecjalizowane systemy AI, ich interdyscyplinarność jest bardzo wysoka.
Powołując się na system DrAid, produkt AI wspierający medyczną diagnostykę obrazową opracowany przez VinBrain, delegat Hoang Minh Hieu stwierdził, że jeśli system zostanie zarejestrowany do testowania, nie da się uniknąć roli monitorowania i zarządzania Ministerstwa Zdrowia. Dlatego w niektórych krajach ocena i licencjonowanie kontrolowanych testów systemów AI jest powierzone radzie interdyscyplinarnej.
Delegaci zaproponowali zmianę postanowień artykułu 20, ust. 5 projektu ustawy w kierunku, zgodnie z którym „państwowa agencja zarządzania sztuczną inteligencją przewodniczy i koordynuje działania z właściwymi państwowymi agencjami zarządzania w celu organizowania przyjmowania, oceny i przetwarzania dokumentacji w celu uczestnictwa w kontrolowanych działaniach testowych”.
Delegat stwierdził również, że w artykule 20 projektu ustawy nadal brakuje przepisów dotyczących odszkodowań i odpowiedzialności ubezpieczeniowej. Nie wspomina się również o tym, kto ponosi odpowiedzialność, jeśli test wyrządzi szkodę osobie trzeciej. Zgodnie z ogólną zasadą, organizacja lub osoba przeprowadzająca test będzie zobowiązana do zapłaty odszkodowania cywilnego w przypadku wyrządzenia szkody. W związku z tym delegat Hoang Minh Hieu zasugerował rozważenie dodania tego przepisu do projektu ustawy.
Całe oprogramowanie AI działające w Wietnamie musi być wyposażone w „ standardową bazę danych baz danych przypominającą bazę danych człowieka ”
Poseł do Zgromadzenia Narodowego Tran Van Lam (Bac Ninh) wysoko ocenił projekt ustawy, ponieważ definiuje on zasadę stawiania człowieka w centrum uwagi, klasyfikowania i kontrolowania ryzyka, inspekcji systemów sztucznej inteligencji wysokiego ryzyka oraz rozwoju krajowej infrastruktury obliczeniowej i danych. To postępowe ramy prawne, zgodne z międzynarodowymi trendami.
Aby jednak ustawa była naprawdę kompletna i miała długoterminową wizję, delegat zaproponował kluczowe uzupełnienie: potraktujmy sztuczną inteligencję jako „nowo narodzonego człowieka”. „Inteligentną, ale niewinną istotę”: nieznającą prawa, nierozumiejącą etyki i etykiety, pozbawioną wartości kulturowych i nieodróżniającą dobra od zła, jeśli nie zostanie nauczona.
„Jeśli postrzegamy sztuczną inteligencję jako rozwijającą się dziedzinę, naszym obowiązkiem jest nie tylko jej kontrolowanie, ale także nauczanie jej od samego początku, tak jak uczymy dziecko podstawowych wartości ludzkich. Powinno to być obowiązkowym zapisem w tej ustawie, a nie tylko zaleceniem” – powiedziała delegatka Tran Van Lam.
Delegaci zaproponowali, aby Zgromadzenie Narodowe dodało do ustawy następującą zasadę prawną: „Całe oprogramowanie oparte na sztucznej inteligencji działające w Wietnamie, niezależnie od tego, czy zostało opracowane przez organizacje krajowe czy zagraniczne, musi być wyposażone w standardową bazę danych opartą na danych ludzkich ”.
Według delegata, „standardowa baza danych o podstawach ludzkich” musi zawierać wystarczające informacje, aby nauczyć sztuczną inteligencję rozumienia wietnamskiego prawa; nauczyć ją etycznych standardów, kultury i dobrych tradycji narodu; nauczyć ją rozpoznawania dobra i zła, standardów i nieprawidłowości; granic zachowań, których nie wolno przekraczać, oraz zasad identyfikowania zagrożeń dla ludzi. A co najważniejsze, zapewnić, że ta baza danych o podstawach zawsze będzie miała absolutny priorytet w zarządzaniu zachowaniami sztucznej inteligencji; nie może być nadpisywana, zastępowana ani wyłączana przez żaden inny algorytm lub dane treningowe. To jest prawny i techniczny „złoty pierścień” , który gwarantuje, że sztuczna inteligencja nie zejdzie na manowce.
Aby skutecznie wdrożyć tę orientację, delegaci zasugerowali, aby Ministerstwo Nauki i Technologii objęło inicjatywę w budowaniu ujednoliconej, znormalizowanej i stale aktualizowanej platformy bazy danych „Being Vietnamese” (Bycie Wietnamczykiem) , udostępniając ją programistom AI jako wymóg obowiązkowy. Rząd powinien opracować solidną krajową infrastrukturę obliczeniową, aby zapewnić, że wietnamska sztuczna inteligencja będzie szkolona w oparciu o wietnamskie wartości, a nie w oparciu o zagraniczne modele.
Jednocześnie należy utworzyć Narodowe Centrum Testowania Sztucznej Inteligencji (National AI Testing Center), aby szybko oceniać zachowania dewiacyjne, kontrolować modele wysokiego ryzyka i szybko interweniować w przypadku oznak przekroczenia limitów. Promować edukację w zakresie sztucznej inteligencji w całym społeczeństwie, koncentrując się na pomaganiu ludziom, firmom, a zwłaszcza sektorowi publicznemu, w prawidłowym identyfikowaniu, wykorzystywaniu i monitorowaniu sztucznej inteligencji.
Delegat Tran Van Lam podkreślił: „Dzisiejsza ustawa o sztucznej inteligencji to nie tylko prawo technologiczne, ale prawo przyszłości; zobowiązanie Zgromadzenia Narodowego wobec narodu. Rozwijamy technologię, ale nie tracimy kontroli; promujemy innowacje, ale nie pozwalamy, by ryzyko wymknęło się spod kontroli. I pielęgnujemy sztuczną inteligencję, kierując się wietnamskimi wartościami, aby służyć narodowi wietnamskiemu”.
Source: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html
Komentarz (0)