Forskning på og utvikling av ansvarlige systemer for kunstig intelligens.

Ifølge Vitenskaps- og teknologidepartementet vurderes det at kunstig intelligens-systemer, i tråd med den generelle trenden i verden, vil gi store fordeler for mennesker, samfunnet og den vietnamesiske økonomien ved å støtte og løse vanskelige problemer som mennesker og lokalsamfunn står overfor. Sammen med denne prosessen er det nødvendig å forske på og ha tiltak for å minimere risikoer i prosessen med å utvikle og bruke kunstig intelligens, og balansere relaterte økonomiske, etiske og juridiske faktorer. Derfor må spesialiserte byråer forske på og utvikle standarder og retningslinjer for å veilede, selv om de er myke og ikke-bindende forskrifter.

I retningslinjene fastsetter Vitenskaps- og teknologidepartementet ni prinsipper i forskning og utvikling av ansvarlige kunstig intelligens-systemer.

For det første, samarbeidsånden og innovasjonsfremme: Utviklere må vurdere tilkoblingsmuligheter og interoperabilitet mellom sine AI-systemer og andre AI-systemer ved å vurdere systemenes mangfold for å forbedre fordelene med systemet, samtidig som de forbedrer koordineringen for å kontrollere risikoer.

For det andre, åpenhet: Kunstig intelligens-systemer som overholder dette prinsippet, er ofte systemer som kan påvirke brukernes eller tilknyttede tredjeparters liv, kropp, personvern eller eiendom. I dette tilfellet må utviklere være oppmerksomme på evnen til å tydelig identifisere systemets input og output, samt den tilhørende forklaringsevnen basert på egenskapene til den anvendte teknologien og hvordan de brukes for å sikre samfunnets, inkludert brukernes, tillit.

For det tredje, kontrollerbarhet: For å vurdere risikoene knyttet til systemets kontrollerbarhet, må utviklere gjennomføre en forhåndsvurdering av om systemet oppfyller de relevante tekniske kravene og standardene. En av risikovurderingsmetodene er å teste i et separat rom med sikkerhetstiltak før det tas i bruk i praksis.

For det fjerde, sikkerhetsprinsippet: Utviklere må sørge for at kunstig intelligens ikke forårsaker skade på brukernes eller tredjeparters liv, kropp eller eiendom, inkludert gjennom mellomledd.

5. Sikkerhetsprinsipper: I tillegg til å overholde dokumenter og instruksjoner og implementere informasjonssikkerhetstiltak som foreskrevet, må utviklere være oppmerksomme på punkter som: Pålitelighet og motstand mot fysiske angrep eller ulykker i systemet; konfidensialitet; integritet; og tilgjengelighet av nødvendig informasjon knyttet til systemets informasjonssikkerhet...

6. Personvern: Utviklere må sørge for at AI-systemer ikke krenker brukernes eller tredjeparters personvern. Personvern omfatter romlig personvern (ro i privatlivet), informasjonspersonvern (personopplysninger) og konfidensialitet i kommunikasjon. Utviklere må følge gjeldende forskrifter og retningslinjer; internasjonale standarder og retningslinjer for personvern kan konsulteres.

Utviklere bør gjennomføre en forhåndsvurdering av personvernrisikoer og gjennomføre en forhåndsvurdering av personvernpåvirkninger. I den grad det er mulig, iverksette tiltak som er passende for egenskapene til teknologien som brukes gjennom hele systemutviklingsprosessen for å unngå brudd på personvernet når det tas i bruk.

For det syvende, respekt for menneskerettigheter og verdighet: Når utviklere utvikler kunstig intelligens-systemer som involverer mennesker, må de være spesielt nøye med å respektere menneskerettigheter og verdighet for de involverte individene. I den grad det er mulig, avhengig av egenskapene til den anvendte teknologien, bør utviklere iverksette tiltak for å sikre at de ikke forårsaker diskriminering eller urettferdighet på grunn av skjevheter i dataene når de trener systemet.

Utviklere må ta forholdsregler for å sikre at systemet ikke bryter med menneskelige verdier og sosial etikk i henhold til de grunnleggende prinsippene i Vietnam (for eksempel verdier som patriotisme, solidaritet, selvstendighet, lojalitet, ærlighet, ansvar, disiplin, kreativitet osv.).

8. brukerstøtte: For å støtte brukere må systemutviklere være oppmerksomme på punkter som: Lage klare grensesnitt for å gi rettidig og passende informasjon som hjelper brukere med å ta avgjørelser og bruke systemet på en enkel måte; implementere tiltak for å gjøre systemet enklere å bruke for sårbare mennesker i samfunnet (eldre, funksjonshemmede)...

9. Ansvarlighet: Utviklere må være ansvarlige for systemene de utvikler for å sikre brukertillit. Mer spesifikt må de gi brukerne informasjon som hjelper dem med å velge og bruke systemet. I tillegg, for å øke sosial aksept av systemene, bør utviklere gjøre mer: Gi brukerne informasjon og beskrivelser av de tekniske spesifikasjonene til systemene de utvikler, algoritmer, sikkerhetsmekanismer osv.; lytte til meninger og dialog med interessenter.

Kilde: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html