Zaostrzenie „czerwonej linii” sztucznej inteligencji: Wietnam proponuje zakaz stosowania technologii podszywania się pod człowieka

W obliczu gwałtownego rozwoju technologii deepfake i ryzyka wykorzystania sztucznej inteligencji (AI) do oszustw, rząd zaproponował całkowity zakaz stosowania systemów AI podszywających się pod ludzi. To krok w kierunku ustanowienia barier prawnych, ochrony praw człowieka i utrzymania bezpieczeństwa w erze cyfrowej.

Realizując program 51. sesji, wieczorem 17 listopada, pod przewodnictwem przewodniczącego Zgromadzenia Narodowego Tran Thanh Mana i kierownictwem wiceprzewodniczącego Zgromadzenia Narodowego Le Minh Hoana, Stała Komisja Zgromadzenia Narodowego wydała opinie na temat projektu ustawy o sztucznej inteligencji.

Przegląd sesji.

Przedstawiając projekt ustawy o sztucznej inteligencji Stałemu Komitetowi Zgromadzenia Narodowego, minister nauki i technologii (MOST) Nguyen Manh Hung stwierdził, że projekt ustawy po raz pierwszy wprowadza koncepcję „systemu sztucznej inteligencji o niedopuszczalnym ryzyku”.

Według ministra Nguyena Manh Hunga, „systemy sztucznej inteligencji o niedopuszczalnym ryzyku” to systemy, które mogą spowodować poważne, nieodwracalne szkody dla praw człowieka, bezpieczeństwa narodowego, porządku społecznego lub są zaprojektowane do realizacji działań zabronionych przez prawo. Ze względu na poziom zagrożenia wymykający się spod kontroli, rozwój, dostarczanie, wdrażanie i użytkowanie tej grupy systemów w jakiejkolwiek formie w Wietnamie zostanie zakazane.

Projekt określa znaki identyfikacyjne obejmujące: Systemy zaprojektowane w celu wspierania zabronionych zachowań; wykorzystujące fałszywe elementy lub symulujące prawdziwe osoby i wydarzenia w celu oszukiwania, celowego manipulowania percepcją i zachowaniami, powodujące poważne szkody dla praw użytkowników; wykorzystujące słabości grup narażonych na niebezpieczeństwo; tworzące lub rozpowszechniające fałszywe treści, które stanowią poważne zagrożenie dla bezpieczeństwa narodowego, porządku społecznego i ochrony.

Według raportu, szybki rozwój sztucznej inteligencji (AI) prowadzi do nowych zagrożeń bezpieczeństwa. W szczególności ostrzega się przed deepfake'iem, który może być wykorzystywany do tworzenia fałszywych wiadomości, oszczerstw, oszustw, podważania zaufania publicznego i wywoływania niestabilności społecznej. Autonomiczne systemy uzbrojenia wykorzystujące AI stwarzają również szereg wyzwań etycznych i prawnych, których rozwiązania świat wciąż poszukuje. Tymczasem obowiązujące przepisy nie nadążają za kontrolą, co powoduje pogłębianie się luki w zarządzaniu. Dlatego też, ogłoszenie odrębnej ustawy o AI jest pilną potrzebą, aby zarówno kontrolować ryzyko, jak i promować badania i zastosowania AI w Wietnamie.

Minister Nguyen Manh Hung powiedział, że celem ustawy jest stworzenie jednolitych ram prawnych, które zapewnią bezpieczny, odpowiedzialny i korzystny dla ludzkości rozwój sztucznej inteligencji. Sztuczna inteligencja jest uznawana za narodową infrastrukturę intelektualną, siłę napędową wzrostu produktywności, innowacji oraz zwiększania autonomii technologicznej i konkurencyjności kraju.

Minister nauki i technologii Nguyen Manh Hung przemawia na spotkaniu.

Projekt ustawy o sztucznej inteligencji (AI) składa się z 8 rozdziałów i 36 artykułów, kładących nacisk na politykę rozwoju AI zorientowaną na człowieka oraz precyzujących rolę państwa w zarządzaniu i tworzeniu. Ustawa ustanawia mechanizm zarządzania oparty na ryzyku, zapewniający transparentne, bezpieczne, kontrolowane i rozliczalne zastosowanie AI, chroniąc bezpieczeństwo, suwerenność danych oraz prawa do krajowych rezerw technologicznych.

Projekt ustawy wymaga również, aby systemy sztucznej inteligencji były nieszkodliwe, bezstronne i szanowały wartości ludzkie; a także posiadały mechanizm monitorowania, kontroli i postępowania w przypadku naruszeń, aby zapewnić odstraszanie i wzmocnić zaufanie społeczne. Rząd będzie promować ekosystem innowacji i rozwijać wysokiej jakości zasoby ludzkie poprzez mechanizmy wspierające badania, inwestycje i szkolenia dla instytutów badawczych, przedsiębiorstw i osób zaangażowanych w rozwój sztucznej inteligencji.

Komisja ds. Nauki, Technologii i Środowiska Zgromadzenia Narodowego zasadniczo zgodziła się z projektem polityki, ale zasugerowała również doprecyzowanie kryteriów ilościowych lub jakościowych klasyfikacji sztucznej inteligencji według poziomów ryzyka. Agencja audytorska zaproponowała dodanie zakazanych działań w celu zwiększenia odstraszania i spójności w egzekwowaniu prawa, takich jak zakaz wykorzystywania sztucznej inteligencji do tworzenia deepfake'ów w celu popełniania oszustw, obrażania godności ludzkiej, wywoływania niepokojów politycznych, manipulowania wyborami lub naruszania bezpieczeństwa narodowego.

Zgodnie z planem, rząd przedstawi projekt ustawy o sztucznej inteligencji Zgromadzeniu Narodowemu 21 listopada; delegaci będą go omawiać w sali obrad 27 listopada. Oczekuje się, że projekt ustawy stanie się „prawnym systemem operacyjnym” dla rozwoju sztucznej inteligencji w Wietnamie, torując drogę innowacjom, a jednocześnie ustanawiając niezbędne ograniczenia w celu ochrony ludzi przed nową generacją technologii.

Centrum Komunikacji Naukowej i Technologicznej

Source: https://mst.gov.vn/siet-chat-lan-ranh-do-cua-ai-viet-nam-de-xuat-cam-cong-nghe-gia-mao-con-nguoi-197251117221425816.htm