Pesquisar e desenvolver sistemas de inteligência artificial responsáveis.

De acordo com o Ministério da Ciência e Tecnologia , seguindo a tendência geral mundial, os sistemas de inteligência artificial são avaliados como capazes de trazer grandes benefícios às pessoas, à sociedade e à economia vietnamita, apoiando e solucionando problemas complexos que as pessoas e as comunidades enfrentam. Paralelamente a esse processo, é necessário pesquisar e adotar medidas para minimizar os riscos no desenvolvimento e uso da inteligência artificial, equilibrando os fatores econômicos, éticos e legais relacionados. Portanto, agências especializadas precisam pesquisar e desenvolver padrões e diretrizes para orientar, mesmo que sejam regulamentações brandas e não vinculativas.

Nas diretrizes, o Ministério da Ciência e Tecnologia estabelece nove princípios na pesquisa e desenvolvimento de sistemas de inteligência artificial responsáveis.

Primeiro, o espírito de cooperação e promoção da inovação: os desenvolvedores precisam considerar a conectividade e a interoperabilidade entre seus sistemas de IA e outros sistemas de IA, considerando a diversidade dos sistemas para aumentar os benefícios do sistema, ao mesmo tempo em que aprimoram a coordenação para controlar os riscos.

Em segundo lugar, transparência: sistemas de inteligência artificial que atendem a esse princípio são frequentemente sistemas que podem afetar a vida, o corpo, a privacidade ou a propriedade dos usuários ou de terceiros relacionados. Nesse caso, os desenvolvedores precisam estar atentos à capacidade de identificar claramente as entradas e saídas do sistema, bem como à explicabilidade relacionada com base nas características da tecnologia aplicada e como ela é utilizada, a fim de garantir a confiança da sociedade, incluindo os usuários.

Terceiro, controlabilidade: para avaliar os riscos associados à controlabilidade do sistema, os desenvolvedores precisam realizar uma pré-avaliação para verificar se o sistema atende aos requisitos e padrões técnicos relevantes. Um dos métodos de avaliação de riscos é testar em um espaço separado, com medidas de segurança e proteção, antes de colocá-lo em prática.

Quarto, o princípio da segurança: os desenvolvedores precisam garantir que o sistema de inteligência artificial não causará danos à vida, ao corpo ou à propriedade dos usuários ou de terceiros, inclusive por meio de intermediários.

5. Princípios de segurança: Além de cumprir documentos, instruções e implementar medidas de segurança da informação conforme prescrito, os desenvolvedores precisam estar atentos a pontos como: Confiabilidade e resistência a ataques físicos ou acidentes do sistema; confidencialidade; integridade; e disponibilidade das informações necessárias relacionadas à segurança da informação do sistema...

6. Privacidade: Os desenvolvedores precisam garantir que os sistemas de IA não violem a privacidade dos usuários ou de terceiros. Privacidade inclui privacidade espacial (tranquilidade na vida pessoal), privacidade da informação (dados pessoais) e confidencialidade das comunicações. Os desenvolvedores precisam aplicar as regulamentações e diretrizes vigentes; padrões e diretrizes internacionais sobre privacidade podem ser consultados.

Os desenvolvedores devem realizar uma pré-avaliação dos riscos à privacidade e dos impactos à privacidade. Na medida do possível, tomar medidas adequadas às características da tecnologia aplicada durante todo o processo de desenvolvimento do sistema para evitar violações de privacidade durante sua utilização.

Sétimo, respeito aos direitos humanos e à dignidade: Ao desenvolver sistemas de inteligência artificial que envolvam humanos, os desenvolvedores devem ter especial cuidado em respeitar os direitos humanos e a dignidade dos indivíduos envolvidos. Na medida do possível, dependendo das características da tecnologia aplicada, os desenvolvedores devem tomar medidas para garantir que não haja discriminação e injustiça devido a viés nos dados durante o treinamento do sistema.

Os desenvolvedores precisam tomar precauções para garantir que o sistema não viole os valores humanos e a ética social de acordo com os princípios básicos do Vietnã (por exemplo, valores como patriotismo, solidariedade, autossuficiência, lealdade, honestidade, responsabilidade, disciplina, criatividade, etc.).

8º, suporte ao usuário: Para dar suporte aos usuários, os desenvolvedores de sistemas precisam prestar atenção a pontos como: Criar interfaces prontas para fornecer informações oportunas e apropriadas para ajudar os usuários a tomar decisões e usar convenientemente; implementar medidas para tornar o sistema mais fácil de usar para pessoas vulneráveis ​​na sociedade (idosos, deficientes)...

9. Responsabilidade: Os desenvolvedores precisam ser responsáveis ​​pelos sistemas que desenvolvem para garantir a confiança do usuário. Especificamente, eles precisam fornecer aos usuários informações que os ajudem a escolher e usar o sistema. Além disso, para aumentar a aceitação social dos sistemas, os desenvolvedores devem fazer mais: fornecer aos usuários informações e descrições das especificações técnicas dos sistemas que desenvolvem, algoritmos, mecanismos de segurança, etc.; ouvir opiniões e dialogar com as partes interessadas.

Fonte: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html