Potrzebne są specjalne regulacje chroniące dzieci przed ciemną stroną sztucznej inteligencji.

Rano 21 listopada posłowie do Zgromadzenia Narodowego wysłuchali ministra nauki i technologii Nguyena Manh Hunga, który na polecenie premiera przedstawił projekt ustawy o sztucznej inteligencji.

Minister nauki i technologii Nguyen Manh Hung przedstawia projekt ustawy o sztucznej inteligencji. Zdjęcie: QUANG PHUC

Przewodniczący Komisji ds. Nauki, Technologii i Środowiska Zgromadzenia Narodowego (KHCN-MT) Nguyen Thanh Hai przedstawił raport z przeglądu projektu ustawy, stwierdzając, że Komisja zgadza się z potrzebą uchwalenia ustawy o sztucznej inteligencji w kontekście jej niezwykłego rozwoju. Oprócz szybkiego rozwoju, coraz powszechniejszego zastosowania i pozytywnych skutków, sztuczna inteligencja stwarza również wiele wyzwań dla gospodarki , społeczeństwa, bezpieczeństwa i ochrony, a także potencjalne zagrożenia, które trudno przewidzieć.

Komisja ds. Nauki, Technologii i Środowiska zaleca, aby agencja projektowa kontynuowała przegląd i staranniej oceniała stopień instytucjonalizacji polityki i kierunków działania Partii, zwłaszcza w zakresie rozwoju sztucznej inteligencji dla ludzi i zrównoważonego rozwoju; intensywnie rozwijała zastosowania sztucznej inteligencji oparte na dużych zbiorach danych dla ważnych gałęzi przemysłu i dziedzin; przyciągała, zatrudniała i zatrzymywała w kraju i za granicą czołowych naukowców , ekspertów i „głównych inżynierów” w zakresie rozwoju technologii sztucznej inteligencji...

Delegaci uczestniczący w porannym spotkaniu 21 listopada. Zdjęcie: QUANG PHUC

W odniesieniu do polityki państwa w zakresie sztucznej inteligencji, Komisja ds. Nauki, Technologii i Środowiska zaproponowała dodanie pewnych treści polityki, w szczególności promujących kontrolowane testowanie zaawansowanych technologii AI, ale z potencjalnymi ryzykami; treści: Państwo zapewnia dostęp do wysokiej jakości dużych zbiorów danych służących szkoleniu modeli AI; Państwo dysponuje mechanizmem przyciągania i nagradzania ekspertów, ukierunkowując szkolenia zasobów ludzkich zgodnie z potrzebami biznesu; Państwo prowadzi politykę dogłębnych szkoleń i popularyzacji podstawowej wiedzy i umiejętności cyfrowych, etyki AI wśród urzędników państwowych, ludzi, zwłaszcza dzieci, aby bezpiecznie korzystali ze AI.

Przewodniczący Komisji Nauki, Technologii i Środowiska Zgromadzenia Narodowego Nguyen Thanh Hai przedstawia raport z przeglądu projektu ustawy o sztucznej inteligencji. Zdjęcie: QUANG PHUC

W odniesieniu do mechanizmu kontrolowanych testów sztucznej inteligencji (AI), Komisja uznaje, że testowanie jest nieuniknionym etapem rozwoju produktów, zwłaszcza w przypadku nowych i wysokiego ryzyka systemów AI. Zezwolenie na kontrolowane testy jest niezbędne dla promowania innowacji. W związku z tym konieczne jest zbadanie i uzupełnienie mechanizmu zwolnienia z odpowiedzialności za ryzyko pojawiające się w trakcie testów, gdy organizacje i osoby fizyczne przestrzegają przepisów.

Mechanizm kontrolowanych testów został jednak uregulowany w Ustawie o nauce, technologii i innowacjach, projekcie Ustawy o transformacji cyfrowej oraz dokumentach wytycznych dotyczących piaskownic. Dlatego, aby uniknąć powielania, proponuje się, aby ustawa ta regulowała jedynie konkretną treść testów systemów AI; jednocześnie skupiając się na mechanizmie pokontrolnym, ocenia wyniki testów i zapewnia uproszczenie procedur administracyjnych.

Komitet uważa, że ​​w przypadku grup wrażliwych, takich jak dzieci, sztuczna inteligencja ma również niepokojące wady. Na przykład, gdy dzieci są zbyt zależne od sztucznej inteligencji w znajdowaniu odpowiedzi lub rozwiązywaniu zadań, tracą możliwość ćwiczenia niezależnego myślenia, analizy i kreatywności. Są podatne na zachowania dewiacyjne. Mogą pomylić sztuczną inteligencję z prawdziwym przyjacielem i działać zgodnie z jej radami, które mogą być niewłaściwe lub niebezpieczne. Mogą też paść ofiarą manipulacji lub oszustwa.

Agencja kontrolna powołała się na doświadczenia z innych krajów, pokazujące, że włoskie prawo dotyczące sztucznej inteligencji stanowi, że osoby poniżej 14. roku życia mogą korzystać ze sztucznej inteligencji wyłącznie za zgodą rodziców lub opiekunów; zgodnie z niedawną propozycją użytkownicy w UE muszą mieć ukończone 16 lat, aby korzystać ze sztucznej inteligencji bez zgody rodziców; Ustawa stanu Kalifornia (USA) o kontroli chatbotów wykorzystujących sztuczną inteligencję stanowi, że platformy wykorzystujące sztuczną inteligencję mają obowiązek wyraźnego powiadamiania użytkowników poniżej 18. roku życia co 3 godziny, że rozmawiają z chatbotem, a nie z człowiekiem.

W związku z tym Komitet zaleca, aby agencja projektowa zbadała i uzupełniła konkretne przepisy mające na celu ochronę dzieci przed negatywnymi aspektami sztucznej inteligencji, udzieliła im wskazówek, jak korzystać ze sztucznej inteligencji w bezpieczny i zdrowy sposób, a także promowała rolę i odpowiedzialność rodziców i szkół w zakresie monitorowania i podnoszenia świadomości dzieci na temat sztucznej inteligencji.

PHAN THAO

Source: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html