Lições aprendidas com o uso da IA

Anteriormente, o relatório apresentado pelo Departamento ao Comitê Popular Provincial continha inúmeros erros ortográficos, erros técnicos, interpretações errôneas do assunto e imprecisões fundamentais nos dados. Isso incluía erros ortográficos, omissões e distorções de palavras: "mở dữ liệu" (dados abertos) tornou-se "mở dữ li" (dados abertos li), "ươm tạo doanh nghiệp" (incubação de empresas) tornou-se "xà tạo" (incubação), "cơ hội và thách thức" (oportunidades e desafios) tornou-se "cơ hội và sơ thức" (oportunidades e conhecimento inicial), "cuộc vận động" (campanha) tornou-se "cuộc đua vận động" (corrida de campanha), "27 hội nghị" (27 conferências) tornou-se "27 aqui viện" (27 parlamentos)... Esses erros elementares apareceram com frequência considerável, indicando que a revisão e verificação dos documentos antes da assinatura não foram realizadas rigorosamente.

Alguns termos técnicos no relatório foram usados incorretamente ou gravemente distorcidos, alterando completamente a natureza do conteúdo da recomendação. Por exemplo, a expressão "fortalecimento do eixo de transporte da faixa de fronteira" foi alterada para "reforço da faixa de fronteira"; "construção de um viveiro de mudas" para "construção de mudas de árvores semelhantes"; "plataforma de reunião online" para "plataforma de exposição online"; e "ecossistema educacional " para "sistema de educação em atitudes biológicas".

Muitos aspectos da gestão estatal também são mal interpretados, dificultando a compreensão e a implementação. Por exemplo, a declaração "detectamos, verificamos e resolvemos 94 casos; iniciamos processos judiciais em 51 casos envolvendo 91 réus" foi alterada para "detectamos, verificamos e resolvemos 94 tarefas; iniciamos 51 serviços e 91 dispositivos potenciais", distorcendo completamente a informação e representando um risco significativo de mal-entendidos na liderança e na gestão.

O relatório também contém erros como grafias incorretas de nomes de tarefas científicas , programas e tópicos de pesquisa; grafias incorretas de nomes de relíquias e marcos históricos e culturais; e até mesmo distorções nos nomes de documentos legais, órgãos emissores e conteúdo citado, tornando o relatório legalmente inválido e inutilizável.

Muitas opiniões sugerem que o referido "relatório" apresenta características de uso de ferramentas online e IA na elaboração de documentos, mas sem o devido controle, revisão ou avaliação por profissionais qualificados. Este é um fenômeno muito perigoso, pois um departamento especializado, antes de emitir um relatório consultivo, deve passar por diversos "filtros", desde especialistas e departamentos funcionais até a liderança. No entanto, esses "filtros" apresentam falhas, permitindo que um relatório tão descuidado e irresponsável passe despercebido.

O incidente também demonstra que o usuário da ferramenta online de IA que criou o "relatório" violou o Artigo 4º, Cláusula 2, da Lei de Inteligência Artificial, referente ao princípio fundamental das operações de IA, que estabelece: "A IA serve à humanidade, não substitui a autoridade e a responsabilidade humanas. Ela garante a manutenção do controle humano e a capacidade de intervenção em todas as decisões e ações do sistema de IA." Nesse caso, não se pode descartar a possibilidade de que o funcionário tenha terceirizado completamente a elaboração do relatório para a IA, resultando no "produto" mencionado.

Após o incidente, o presidente do Comitê Popular local solicitou ao diretor do departamento competente que revisasse e esclarecesse a causa, retificasse integralmente o trabalho de consultoria e reforçasse o processo de utilização da IA. Para todos, esta é também uma lição importante sobre o uso de ferramentas digitais e IA; é fundamental lembrar que, em muitas atividades, a IA só pode servir de apoio aos humanos; ela deve ser verificada, controlada e responsabilizada por humanos.

Fonte: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html