Pesquisar e desenvolver sistemas de inteligência artificial responsáveis.

De acordo com o Ministério da Ciência e Tecnologia , seguindo a tendência geral mundial, os sistemas de inteligência artificial são avaliados como capazes de trazer grandes benefícios às pessoas, à sociedade e à economia vietnamita, apoiando e solucionando problemas complexos enfrentados por pessoas e comunidades. Paralelamente a esse processo, é necessário pesquisar e adotar medidas para minimizar os riscos no desenvolvimento e uso da inteligência artificial, equilibrando os fatores econômicos, éticos e legais relacionados. Portanto, agências especializadas precisam pesquisar e desenvolver padrões e diretrizes para orientação, mesmo que sejam regulamentações brandas e não vinculativas.

Nas diretrizes, o Ministério da Ciência e Tecnologia estabelece nove princípios para pesquisa e desenvolvimento responsáveis ​​de sistemas de inteligência artificial.

Primeiro, o espírito de cooperação, promovendo a inovação: os desenvolvedores precisam considerar a conectividade e a interoperabilidade entre seus sistemas de inteligência artificial e outros sistemas de inteligência artificial, considerando a diversidade dos sistemas para aumentar os benefícios do sistema, ao mesmo tempo em que aprimoram a coordenação para controlar os riscos.

Em segundo lugar, transparência: sistemas de IA que atendem a esse princípio são frequentemente sistemas que podem afetar a vida, o corpo, a privacidade ou a propriedade dos usuários ou de terceiros relacionados. Nesse caso, os desenvolvedores precisam estar atentos à capacidade de identificar claramente as entradas e saídas do sistema, bem como à explicabilidade relacionada com base nas características da tecnologia aplicada e como ela é utilizada, a fim de garantir a confiança da sociedade, incluindo os usuários.

Terceiro, controlabilidade: para avaliar os riscos associados à controlabilidade do sistema, os desenvolvedores precisam realizar uma pré-avaliação para verificar se o sistema atende aos requisitos e padrões técnicos relevantes. Um dos métodos de avaliação de risco é testar em um espaço separado, com medidas de segurança implementadas, antes de colocá-lo em prática.

Quarto, o princípio da segurança: os desenvolvedores precisam garantir que o sistema de inteligência artificial não causará danos à vida, ao corpo ou à propriedade dos usuários ou de terceiros, inclusive por meio de intermediários.

Quinto, princípios de segurança: além de cumprir documentos, instruções e implementar medidas de segurança da informação conforme prescrito, os desenvolvedores precisam prestar atenção a pontos como: confiabilidade e resistência a ataques físicos ou acidentes do sistema; confidencialidade; integridade; e disponibilidade de informações necessárias relacionadas à segurança da informação do sistema...

6. Privacidade: Os desenvolvedores precisam garantir que os sistemas de IA não violem a privacidade dos usuários ou de terceiros. Privacidade inclui privacidade espacial (tranquilidade na vida pessoal), privacidade da informação (dados pessoais) e confidencialidade das comunicações. Os desenvolvedores precisam aplicar os regulamentos e diretrizes atuais; padrões e diretrizes internacionais sobre privacidade podem ser consultados.

Os desenvolvedores devem realizar uma pré-avaliação dos riscos à privacidade e dos impactos à privacidade. Na medida do possível, tomar medidas adequadas às características da tecnologia aplicada ao longo do processo de desenvolvimento do sistema para evitar violações de privacidade durante sua utilização.

Sétimo, respeito aos direitos humanos e à dignidade: Ao desenvolver sistemas de inteligência artificial que envolvam humanos, os desenvolvedores devem ter especial cuidado em respeitar os direitos humanos e a dignidade dos indivíduos envolvidos. Na medida do possível, dependendo das características da tecnologia aplicada, os desenvolvedores devem tomar medidas para garantir que não causem discriminação ou injustiça devido a viés nos dados ao treinar o sistema.

Os desenvolvedores precisam tomar precauções para garantir que o sistema não viole os valores humanos e a ética social de acordo com os princípios básicos do Vietnã (por exemplo, valores como patriotismo, solidariedade, autossuficiência, lealdade, honestidade, responsabilidade, disciplina, criatividade, etc.).

8º, suporte ao usuário: Para dar suporte aos usuários, os desenvolvedores de sistemas precisam prestar atenção a pontos como: Criar interfaces prontas para fornecer informações oportunas e apropriadas para ajudar os usuários a tomar decisões e usar convenientemente; implementar medidas para tornar o sistema mais fácil de usar para pessoas vulneráveis ​​na sociedade (idosos, deficientes)...

9. Responsabilidade: Os desenvolvedores precisam ser responsáveis ​​pelos sistemas que desenvolvem para garantir a confiança do usuário. Especificamente, eles precisam fornecer aos usuários informações que os ajudem a escolher e usar o sistema. Além disso, para aumentar a aceitação social dos sistemas, os desenvolvedores devem se esforçar mais: fornecer aos usuários informações e descrições das características técnicas dos sistemas que desenvolvem, algoritmos, mecanismos de segurança, etc.; ouvir opiniões e dialogar com as partes interessadas.

Fonte: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html