Cercetarea și dezvoltarea unor sisteme responsabile de inteligență artificială.

Conform Ministerului Științei și Tehnologiei , urmând tendința generală la nivel mondial, sistemele de inteligență artificială sunt evaluate ca aducând beneficii semnificative oamenilor, societății și economiei vietnameze prin sprijinirea și rezolvarea problemelor dificile cu care se confruntă oamenii și comunitățile. Împreună cu acest proces, este necesar să se cerceteze și să se ia măsuri pentru a minimiza riscurile în procesul de dezvoltare și utilizare a inteligenței artificiale și să se echilibreze factorii economici, etici și juridici aferenți. Prin urmare, agențiile specializate trebuie să cerceteze și să dezvolte standarde și linii directoare care să ghideze, chiar dacă acestea sunt reglementări flexibile și neobligatorii.

În cadrul acestor linii directoare, Ministerul Științei și Tehnologiei stabilește nouă principii în cercetarea și dezvoltarea sistemelor de inteligență artificială responsabile.

În primul rând, spiritul de cooperare și promovarea inovării: Dezvoltatorii trebuie să ia în considerare conectivitatea și interoperabilitatea dintre sistemele lor de inteligență artificială și alte sisteme de inteligență artificială, luând în considerare diversitatea sistemelor pentru a spori beneficiile sistemului, sporind în același timp coordonarea pentru a controla riscurile.

În al doilea rând, transparența: Sistemele de inteligență artificială care respectă acest principiu sunt adesea sisteme care pot afecta viața, corpul, intimitatea sau proprietatea utilizatorilor sau a terților. În acest caz, dezvoltatorii trebuie să acorde atenție capacității de a identifica în mod clar intrările și ieșirile sistemului, precum și explicabilității aferente pe baza caracteristicilor tehnologiei aplicate și a modului în care acestea sunt utilizate pentru a asigura încrederea societății, inclusiv a utilizatorilor.

În al treilea rând, controlabilitatea: Pentru a evalua riscurile asociate cu controlabilitatea sistemului, dezvoltatorii trebuie să efectueze o preevaluare a îndeplinirii de către sistem a cerințelor tehnice și standardelor relevante. Una dintre metodele de evaluare a riscurilor este testarea într-un spațiu separat, cu măsuri de securitate și siguranță, înainte de a-l pune în funcțiune practică.

În al patrulea rând, principiul siguranței: Dezvoltatorii trebuie să se asigure că sistemul de inteligență artificială nu va dăuna vieții, corpului sau proprietății utilizatorilor sau a terților, inclusiv prin intermediari.

5. Principii de securitate: Pe lângă respectarea documentelor, instrucțiunilor și implementarea măsurilor de securitate a informațiilor prescrise, dezvoltatorii trebuie să acorde atenție unor aspecte precum: fiabilitatea și rezistența la atacuri fizice sau accidente ale sistemului; confidențialitatea; integritatea; și disponibilitatea informațiilor necesare legate de securitatea informațiilor sistemului...

6. Confidențialitate: Dezvoltatorii trebuie să se asigure că sistemele de inteligență artificială nu încalcă confidențialitatea utilizatorilor sau a terților. Confidențialitatea include confidențialitatea spațială (liniștea sufletească în viața personală), confidențialitatea informațiilor (datele cu caracter personal) și confidențialitatea comunicațiilor. Dezvoltatorii trebuie să aplice reglementările și directivele actuale; se pot consulta standardele și directivele internaționale privind confidențialitatea.

Dezvoltatorii ar trebui să efectueze o evaluare prealabilă a riscurilor la adresa vieții private și o evaluare prealabilă a impactului asupra vieții private. În măsura posibilului, să ia măsuri adecvate caracteristicilor tehnologiei aplicate pe parcursul procesului de dezvoltare a sistemului pentru a evita încălcarea vieții private atunci când este utilizată.

În al șaptelea rând, respectarea drepturilor și demnității omului: Atunci când dezvoltă sisteme de inteligență artificială care implică oameni, dezvoltatorii trebuie să acorde o atenție deosebită respectării drepturilor omului și demnității persoanelor implicate. În măsura posibilului, în funcție de caracteristicile tehnologiei aplicate, dezvoltatorii ar trebui să ia măsuri pentru a se asigura că nu provoacă discriminare sau nedreptate din cauza prejudecăților din date atunci când antrenează sistemul.

Dezvoltatorii trebuie să ia măsuri de precauție pentru a se asigura că sistemul nu încalcă valorile umane și etica socială, conform principiilor de bază ale Vietnamului (de exemplu, valori precum patriotismul, solidaritatea, încrederea în sine, loialitatea, onestitatea, responsabilitatea, disciplina, creativitatea etc.).

În al 8-lea rând, asistență pentru utilizatori: Pentru a oferi asistență utilizatorilor, dezvoltatorii de sisteme trebuie să acorde atenție unor aspecte precum: crearea de interfețe pregătite pentru a oferi informații prompte și adecvate, care să ajute utilizatorii să ia decizii și să utilizeze sistemul convenabil; implementarea de măsuri pentru a facilita utilizarea acestuia de către persoanele vulnerabile din societate (vârstnici, persoane cu dizabilități)...

9. Responsabilitate: Dezvoltatorii trebuie să fie responsabili pentru sistemele pe care le dezvoltă pentru a asigura încrederea utilizatorilor. Mai exact, aceștia trebuie să ofere utilizatorilor informații care să îi ajute să aleagă și să utilizeze sistemul. În plus, pentru a crește acceptarea socială a sistemelor, dezvoltatorii ar trebui să facă mai mult: să ofere utilizatorilor informații și descrieri ale specificațiilor tehnice ale sistemelor pe care le dezvoltă, algoritmi, mecanisme de securitate etc.; să asculte opiniile și să dialogheze cu părțile interesate.

Sursă: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html