Badania i rozwój odpowiedzialnych systemów sztucznej inteligencji.

Według Ministerstwa Nauki i Technologii , zgodnie z ogólnym trendem panującym na świecie, systemy sztucznej inteligencji przynoszą ogromne korzyści ludziom, społeczeństwu i gospodarce Wietnamu poprzez wspieranie i rozwiązywanie trudnych problemów, z którymi borykają się ludzie i społeczności. Jednocześnie konieczne jest prowadzenie badań i wdrażanie środków minimalizujących ryzyko w procesie rozwoju i wykorzystania sztucznej inteligencji oraz równoważenie powiązanych czynników ekonomicznych, etycznych i prawnych. Dlatego wyspecjalizowane agencje muszą badać i opracowywać standardy i wytyczne, nawet jeśli są to przepisy miękkie i niewiążące.

W wytycznych Ministerstwo Nauki i Technologii określiło dziewięć zasad dotyczących badań i rozwoju odpowiedzialnych systemów sztucznej inteligencji.

Po pierwsze, duch współpracy i promowania innowacji: twórcy oprogramowania muszą brać pod uwagę łączność i interoperacyjność swoich systemów AI i innych systemów AI, biorąc pod uwagę różnorodność systemów w celu zwiększenia korzyści płynących z systemu, a jednocześnie wzmacniając koordynację w celu kontrolowania ryzyka.

Po drugie, przejrzystość: Systemy sztucznej inteligencji zgodne z tą zasadą to często systemy, które mogą wpływać na życie, ciało, prywatność lub własność użytkowników lub powiązanych z nimi osób trzecich. W takim przypadku programiści muszą zwrócić uwagę na możliwość jednoznacznej identyfikacji danych wejściowych i wyjściowych systemu, a także na ich zrozumiałość w oparciu o charakterystykę zastosowanej technologii i sposób jej wykorzystania, aby zapewnić zaufanie społeczeństwa, w tym użytkowników.

Po trzecie, sterowalność: Aby ocenić ryzyko związane z sterowalnością systemu, deweloperzy muszą przeprowadzić wstępną ocenę, aby sprawdzić, czy system spełnia odpowiednie wymagania techniczne i standardy. Jedną z metod oceny ryzyka jest testowanie w wydzielonej przestrzeni z zastosowaniem środków bezpieczeństwa przed wdrożeniem w praktyce.

Po czwarte, zasada bezpieczeństwa: twórcy oprogramowania muszą mieć pewność, że system sztucznej inteligencji nie wyrządzi szkody życiu, zdrowiu lub mieniu użytkowników lub osób trzecich, w tym również za pośrednictwem pośredników.

5. Zasady bezpieczeństwa: Oprócz przestrzegania dokumentów, instrukcji i wdrażania środków bezpieczeństwa informacji zgodnie z zaleceniami, programiści muszą zwrócić uwagę na takie kwestie, jak: niezawodność i odporność systemu na ataki fizyczne lub awarie; poufność; integralność; oraz dostępność niezbędnych informacji związanych z bezpieczeństwem informacji systemu.

6. Prywatność: Twórcy oprogramowania muszą zadbać o to, aby systemy sztucznej inteligencji nie naruszały prywatności użytkowników ani osób trzecich. Prywatność obejmuje prywatność przestrzenną (spokój ducha w życiu osobistym), prywatność informacji (dane osobowe) oraz poufność komunikacji. Twórcy oprogramowania muszą stosować się do aktualnych przepisów i wytycznych; można zapoznać się z międzynarodowymi standardami i wytycznymi dotyczącymi prywatności.

Deweloperzy powinni przeprowadzić wstępną ocenę ryzyka naruszenia prywatności oraz przeprowadzić wstępną ocenę wpływu na prywatność. W miarę możliwości należy podejmować środki odpowiednie do charakterystyki technologii stosowanej w całym procesie rozwoju systemu, aby uniknąć naruszenia prywatności po uruchomieniu.

Po siódme, poszanowanie praw człowieka i godności: Tworząc systemy sztucznej inteligencji, w których uczestniczą ludzie, programiści muszą zachować szczególną ostrożność, aby szanować prawa człowieka i godność zaangażowanych osób. W miarę możliwości, w zależności od charakterystyki zastosowanej technologii, programiści powinni podjąć środki, aby zapewnić, że nie powodują dyskryminacji ani niesprawiedliwości z powodu stronniczości danych podczas trenowania systemu.

Twórcy muszą podjąć środki ostrożności, aby mieć pewność, że system nie narusza wartości ludzkich i etyki społecznej zgodnie z podstawowymi zasadami Wietnamu (na przykład wartości takich jak patriotyzm, solidarność, samodzielność, lojalność, uczciwość, odpowiedzialność, dyscyplina, kreatywność itp.).

8. Wsparcie użytkownika: Aby wspierać użytkowników, twórcy systemów muszą zwrócić uwagę na takie kwestie, jak: Tworzenie gotowych interfejsów dostarczających aktualnych i odpowiednich informacji, które pomogą użytkownikom podejmować decyzje i wygodnie korzystać z systemu; wdrażanie środków ułatwiających korzystanie z systemu osobom znajdującym się w trudnej sytuacji (osobom starszym, niepełnosprawnym)...

9. Odpowiedzialność: Deweloperzy muszą ponosić odpowiedzialność za tworzone przez siebie systemy, aby zapewnić zaufanie użytkowników. W szczególności muszą dostarczać użytkownikom informacje, które pomogą im w wyborze i korzystaniu z systemu. Ponadto, aby zwiększyć akceptację społeczną systemów, deweloperzy powinni zrobić więcej: dostarczać użytkownikom informacje i opisy specyfikacji technicznych tworzonych przez siebie systemów, algorytmów, mechanizmów bezpieczeństwa itp.; słuchać opinii i prowadzić dialog z interesariuszami.

Źródło: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html