O Vietnã estuda regulamentações sobre ética em IA.

Com base na experiência de muitos países e nos princípios da UNESCO, o Vietnã está elaborando regulamentações para desenvolver a inteligência artificial (IA) de forma ética e responsável.

No workshop "Desenvolvimento Responsável e Aplicação da Inteligência Artificial: Teoria e Prática", realizado na manhã de 28 de fevereiro na Universidade de Direito da VNU, o Vice-Ministro da Ciência e Tecnologia, Bui The Duy, afirmou que a ética da IA é uma questão complexa e global que está atraindo muitos países e organizações ao redor do mundo para participar da busca por soluções, incluindo a UNESCO.

"A UNESCO é uma organização que se concentra na cultura e na educação . No entanto, pela primeira vez, essa organização incluiu a inteligência artificial — um tema relacionado à tecnologia — em suas discussões. Essa mudança fez com que alguns países que haviam deixado a organização decidissem voltar a participar", disse ele.

Segundo o Vice-Ministro, a ética da IA afeta muitos aspectos da vida, como a sociedade, o direito, a competição política e a competição comercial. Para que a inteligência artificial se desenvolva de forma responsável, a gestão precisa ser levada a sério desde a fase de definição dos modelos de IA e coleta de dados até a conclusão do sistema e sua implementação. Na realidade do Vietnã, esse processo exige a coordenação de engenheiros, cientistas e órgãos de gestão, como o Ministério da Ciência e Tecnologia, o Ministério da Informação e Comunicações e o Ministério da Segurança Pública .

Durante o workshop, o Sr. Duy também afirmou que os princípios da UNESCO servem de base para que os países elaborem regulamentações sobre ética em IA. Em primeiro lugar, o modelo de inteligência artificial precisa estar em conformidade com o projeto e as tarefas estabelecidas desde o início, para garantir que não haja ações destrutivas que causem danos aos seres humanos.

"A IA é completamente diferente das tecnologias que os humanos pesquisaram. Enquanto os produtos tecnológicos antigos apenas seguem objetivos preexistentes, a IA pode criar novas direções, além do controle do desenvolvedor", disse ele. O vice-ministro também deu o exemplo de um caso em que cientistas permitiram que dois sistemas de computador conversassem em inglês. No entanto, após um período, eles repentinamente mudaram para se comunicar em um idioma desconhecido, impossibilitando a equipe de pesquisa de compreender o conteúdo da conversa.

A questão da igualdade e da justiça também é preocupante na construção de um modelo de IA. Segundo o Sr. Duy, desde a etapa de coleta de informações para o treinamento da inteligência artificial, a desigualdade pode ocorrer e afetar negativamente todo o sistema.

Com relação ao modelo de reconhecimento de voz por IA, ele afirmou que, se a fonte de dados for coletada apenas de pessoas de Hanói, o sistema será tendencioso ao interagir com pessoas de outras regiões. "De forma mais ampla, as fontes de dados de IA podem causar injustiças entre gêneros e grupos na sociedade, como pessoas com deficiência", disse ele. Portanto, para que haja um desenvolvimento justo da IA, além da participação de especialistas jurídicos, a contribuição de psicólogos e sociólogos também é necessária.

Além disso, o representante do Ministério também enfatizou alguns princípios importantes da ética da IA, como garantir a segurança dos dados pessoais, respeitar os direitos autorais e de propriedade intelectual, melhorar a produtividade do trabalho, mas também proteger o meio ambiente e a segurança social.

O vice-ministro Bui The Duy discursa no workshop. Foto: Hoang Giang — O vice-ministro Bui The Duy discursa no workshop. Foto: *Hoang Giang*

Durante o workshop, especialistas afirmaram que o Vietnã está monitorando a implementação de regulamentações sobre o desenvolvimento responsável de IA em diversos países e regiões do mundo, a fim de pesquisar e construir um arcabouço legal adequado às práticas nacionais.

Especificamente, no final de 2023, a União Europeia aprovou os princípios da Lei de IA, cuja publicação está prevista para o segundo trimestre de 2024. Esta é atualmente a primeira e mais abrangente lei, com diversas iniciativas para lidar com os riscos da IA.

"A Lei de IA de 2024 será baseada nos riscos dos modelos de IA para ajustar a legislação de acordo, juntamente com um ambiente de testes e uma abordagem 'flexível' em relação à ética, confiabilidade e responsabilidade", disse o Dr. Do Giang Nam, da Universidade de Direito da VNU, no workshop. Segundo ele, a experiência da Lei de IA que o Vietnã pode aplicar é "não criar uma lei definitiva, mas atualizá-la e adaptá-la continuamente ao desenvolvimento da tecnologia de IA".

Diferentemente da Europa, os EUA buscam no setor privado respostas para o desenvolvimento da governança da IA. Os EUA também são o país com o maior número de processos contra empresas de IA, principalmente relacionados a violações de privacidade e discriminação entre grupos de trabalhadores. Segundo especialistas, em vez de um conjunto fixo de leis, os EUA tendem a emitir diversos princípios para que organizações e indivíduos tenham flexibilidade no processo de desenvolvimento e aplicação de modelos de IA.

China e Japão também são dois países que fizeram grandes progressos no desenvolvimento de IA responsável. Desde 2019, o país de um bilhão de habitantes estabeleceu quatro princípios, com foco em modeladores, usuários, governança de IA e futuras direções de desenvolvimento da IA. Nesse sentido, a China optou por desenvolver IA de forma autônoma e promover a governança doméstica, enquanto o Japão busca um código de conduta de IA centrado no ser humano, garantindo, ao mesmo tempo, a participação em fóruns internacionais.

"O processo de gestão da inteligência artificial em países da mesma região que a China e o Japão pode servir de experiência para o desenvolvimento responsável da IA no Vietnã. Além da legalidade, a responsabilidade aqui também se estende à sociedade e às pessoas", afirmou a Professora Associada Dra. Nguyen Thi Que Anh, Reitora da Faculdade de Direito da Universidade Nacional do Vietnã (VNU). Ademais, o Vietnã está elaborando a Lei da Indústria de Tecnologia Digital, que inclui diretrizes sobre ética em produtos digitais, incluindo inteligência artificial.

Hoang Giang

Link da fonte