Delegat Ca Mau: Potrzebne są „otwarte ramy prawne”, ale przy ogłaszaniu ustawy o sztucznej inteligencji należy ściśle kontrolować ryzyko

Podczas porannej sesji dyskusyjnej 21 listopada na temat projektu ustawy o sztucznej inteligencji (AI) posłowie z delegacji Zgromadzenia Narodowego prowincji Ca Mau przedstawili wiele istotnych opinii dotyczących ram zarządzania AI, kontroli ryzyka technicznego, jakości danych i mechanizmów polityki mających na celu promowanie inwestycji biznesowych w AI.

Delegat Nguyen Duy Thanh: Ramy prawne są zbyt powolne – potrzeba 6 podstawowych zasad, aby chronić użytkowników

Delegat Nguyen Duy Thanh stwierdził, że pilna jest potrzeba uchwalenia prawa, zaproponował sześć zasad zarządzania sztuczną inteligencją i kategoryczny zakaz tworzenia przez sztuczną inteligencję fałszywych wiadomości i treści destabilizujących społeczeństwo.

Według delegata Nguyena Duy Thanha, członka Komisji Ekonomicznej Zgromadzenia Narodowego i wiceprzewodniczącego Stowarzyszenia Biznesu Prowincji Ca Mau, ogłoszenie ustawy o sztucznej inteligencji (AI) jest wymogiem, którego nie można dłużej odwlekać, ponieważ technologia AI przeniknęła do każdej dziedziny, od produkcji, transportu, finansów po zarządzanie publiczne. Jednak Wietnam nadal stosuje rozproszone normy techniczne, bez ujednoliconych ram prawnych.

Delegat Nguyen Duy Thanh zaproponował opracowanie sześciu zasad zarządzania sztuczną inteligencją, aby zapobiec szkodom wyrządzanym przez systemy sztucznej inteligencji: przejrzystość; niedyskryminacja; poszanowanie prywatności; odpowiedzialność; zapewnienie bezpieczeństwa — kontrolowanie ryzyka; ochrona dzieci przed treściami generowanymi przez sztuczną inteligencję.

Delegat Nguyen Duy Thanh powiedział, że należy bezwzględnie zakazać wykorzystywania sztucznej inteligencji do tworzenia fałszywych wiadomości, zwłaszcza do kreowania wizerunku przywódców, instytucji państwowych lub tworzenia treści podburzających do niepokojów. Będzie to niezbędna „bariera prawna” ograniczająca szybkość rozprzestrzeniania się informacji tworzonych przez sztuczną inteligencję i poziom ich wpływu.

Delegat Dinh Ngoc Minh: „Bez kontroli kodu źródłowego sztuczna inteligencja może przynieść efekt przeciwny do zamierzonego”

Delegat Dinh Ngoc Minh zaproponował kontrolę kodu źródłowego sztucznej inteligencji; agencje państwowe muszą mieć prawo do „wyłączenia sztucznej inteligencji” w razie incydentu; ostrzegł też przed zagrożeniami, jakie niesie ze sobą działanie sztucznej inteligencji poza kontrolą.

Delegat Dinh Ngoc Minh, członek Komisji Gospodarczej i Finansowej Zgromadzenia Narodowego, ostrzegł, że w wielu krajach odnotowano przypadki, w których roboty lub systemy zautomatyzowane powodowały wypadki, a nawet reagowały na działania ludzi. Te historie nie są już science fiction, lecz dzieją się we współczesnym życiu.

Delegat Dinh Ngoc Minh powiedział, że Wietnam musi zwrócić szczególną uwagę na kontrolę kodu źródłowego krytycznych systemów sztucznej inteligencji. W niektórych przypadkach państwo musi mieć dostęp do kodu źródłowego lub go przechowywać, podobnie jak w przypadku mechanizmu „awaryjnego przycisku zatrzymania”.

„Jeśli kod źródłowy nie jest kontrolowany, sztuczna inteligencja może przynieść efekty odwrotne do zamierzonych i spowodować ogromne szkody” – podkreślił delegat Dinh Ngoc Minh; jednocześnie zaproponował jasne określenie obowiązków organizacji opracowujących i obsługujących sztuczną inteligencję.

Delegat Tran Thi Hoa Ry: Prawo musi być jasne i spójne, a nie „ogólne ramy prawne”

W dyskusji głos zabrał delegat Tran Thi Hoa Ry.

Delegatka Tran Thi Hoa Ry, wiceprzewodnicząca Rady Etnicznej Zgromadzenia Narodowego, oceniła, że ​​projekt ustawy jest bardzo misternie skonstruowany, ale nadal są w nim kwestie wymagające dopracowania.

Prawo zorientowane na ramy prawne jest właściwe, ale musi być „jasno sformułowane”: delegatka Tran Thi Hoa Ry stwierdziła, że ​​niektóre ogólne przepisy, o charakterze opisowym, nie wystarczą do ukierunkowania wdrażania. Prawo musi jasno określać zasady, ograniczenia i sankcje, aby uniknąć problemów w przyszłości.

Przegląd struktury prawa: Delegat Tran Thi Hoa Ry zaproponował zmianę szeregu artykułów, które obecnie należą do kompetencji rządu, aby uregulować zbyt wiele treści, co powoduje dublowanie się przepisów i trudności w ich stosowaniu.

Skuteczność sztucznej inteligencji (AI) zależy od jakości danych wejściowych: delegat Tran Thi Hoa Ry jest szczególnie zaniepokojony dokładnością, kompletnością i przejrzystością danych, ponieważ jeśli dane są nieprawidłowe, sztuczna inteligencja wygeneruje nieprawidłowe wyniki.

Delegat Tran Thi Hoa Ry poprosił o wyjaśnienie listy danych, które mają zostać uwzględnione w krajowej bazie danych AI, procesu monitorowania wprowadzania danych, dodatkowych danych w niektórych sektorach, takich jak energetyka, a także o wyjaśnienie, dlaczego dane na temat procedur administracyjnych – które mają zastosowanie do AI – nie zostały uwzględnione w projekcie.

Dodanie zakazów w celu uniknięcia niedopuszczalnego ryzyka: Delegat Tran Thi Hoa Ry zasugerował określenie zabronionych zachowań, zamiast po prostu ogólnego wymieniania rodzajów ryzyka.

Firmy muszą mieć „prawdziwą motywację”, aby inwestować w sztuczną inteligencję: delegatka Tran Thi Hoa Ry stwierdziła, że ​​aby przyciągnąć firmy do kosztownych dziedzin, takich jak sztuczna inteligencja, prawo musi przewidywać silniejsze mechanizmy, takie jak: mechanizm podziału zysków; zachęty podatkowe; model partnerstwa publiczno-prywatnego specjalnie na potrzeby sztucznej inteligencji.

Krajowa strategia w zakresie sztucznej inteligencji nie powinna być aktualizowana… co 3 lata: „Biorąc pod uwagę obecne tempo zmian, które zachodzą co tydzień, strategię w zakresie sztucznej inteligencji należy dostosowywać w sposób bardziej elastyczny” – zasugerowała delegatka Tran Thi Hoa Ry, zamiast czekać 2–3 lata na aktualizację.

Jednolity wymóg „zarówno otwarty, jak i szczelny”

Opinie delegatów Zgromadzenia Narodowego Prowincji Ca Mau skupiają się na celu stworzenia ram prawnych na tyle otwartych, aby sprzyjać badaniom naukowym i innowacjom, a jednocześnie na tyle ścisłych, aby móc zarządzać ryzykiem, zwłaszcza ryzykiem dotyczącym prywatności, bezpieczeństwa sieci i bezpieczeństwa socjalnego.

W kontekście codziennego rozwoju sztucznej inteligencji propozycje te przyczyniają się do tego, że projekt ustawy będzie zgodny z międzynarodowymi standardami, a jednocześnie będzie dostosowany do obecnych możliwości Wietnamu w zakresie zarządzania technologią.

Source: https://www.camau.gov.vn/thoi-su-chinh-tri/dai-bieu-ca-mau-can-khung-phap-ly-mo-nhung-kiem-soat-chat-rui-ro-khi-ban-hanh-luat-tri-tue-nhan--291345