Cuidado com o lado negro da IA

Apesar de seus benefícios inegáveis, a inteligência artificial (IA) levanta questões éticas urgentes. Notavelmente, em pesquisas científicas, há muitas estatísticas mostrando que o abuso da IA ​​pode levar a vieses imprevisíveis.

Workshop para contribuir com ideias para o aperfeiçoamento do projeto de Lei de Inteligência Artificial (IA). (Foto: HUONG NGUYEN)

Incidentes recentes envolvendo preconceito e falsificação de documentos fizeram com que acadêmicos reconsiderassem o nível apropriado de envolvimento de IA em pesquisas.

Recentemente, em sua página pessoal, o Professor Doutor em Linguística Nguyen Van Hiep compartilhou uma história que chocou os leitores. Ele descobriu que a IA havia falsificado seus documentos com informações enviadas por um amigo. Ele também descobriu acidentalmente que o artigo do Professor Associado Doutor em Ciências Tran Van Co. também havia sido falsificado pela IA.

A IA tornou-se parte indispensável da vida humana; no entanto, especialistas sempre enfatizam que devemos encará-la apenas como uma ferramenta de apoio. Usuários de IA precisam estar sempre atentos e informados para processar dados e avaliar os resultados obtidos após "cooperar" com a IA. Particularmente na pesquisa científica, muitos estudos têm demonstrado que o maior problema que precisa ser observado é o viés em dados e modelos. A IA pode ser tendenciosa, distorcer resultados de análises, criar preconceito ou discriminação e manipular informações se não for bem controlada.

Em particular, o uso de IA em pesquisas em ciências sociais exige muito mais cautela. Como áreas das ciências sociais como filosofia, linguística, etnologia, história, etc., todas tomam o comportamento, a cultura e a conduta humana como objetos de pesquisa, os dados costumam estar intimamente ligados ao contexto sociocultural vietnamita, com profundidade e especificidade. Se os dados de treinamento de IA refletem preconceitos históricos, o perigo é que a IA possa tirar conclusões que exacerbem os problemas de desigualdade entre gênero, classe, raça ou região geográfica. O risco é ainda maior quando a IA é usada para analisar o comportamento humano, responder a pesquisas abertas ou participar de conteúdo midiático.

De acordo com alguns especialistas em ciências sociais, a IA atualmente tem dificuldade em acessar fontes de dados protegidas por direitos autorais ou pagas, resultando em informações incompletamente atualizadas.

O fenômeno da fabricação de documentos para criar histórias plausíveis ocorre frequentemente em tópicos menos populares, em idiomas com fontes de dados limitadas, como o vietnamita, e deve ser alertado para alertar os usuários. Os sistemas de IA em geral são atualmente muito limitados na compreensão do contexto social e cultural, portanto, sua assistência na interpretação de conhecimentos ambíguos e ricos em metáforas das ciências sociais não é realmente confiável.

Embora traga muito potencial na pesquisa científica, a aplicação da IA ​​precisa ser muito cuidadosa, tem limites e deve sempre andar de mãos dadas com a capacidade de pensamento crítico do pesquisador.

Observa-se que, embora traga grande potencial para a pesquisa científica, a aplicação da IA ​​precisa ser muito cautelosa, limitada e sempre acompanhada da capacidade crítica do pesquisador. O sujeito que utiliza a IA deve identificar claramente essas limitações no uso da IA, garantindo que a IA não altere os valores fundamentais da ciência. Para proteger a integridade da pesquisa científica, o papel e a responsabilidade dos cientistas devem ser elevados a um novo patamar. Além disso, é necessário propor uma estrutura ética de IA juridicamente vinculativa no contexto da cultura, tradições e normas sociais vietnamitas.

Temos um sistema de nove princípios para promover a pesquisa e o desenvolvimento de sistemas de IA seguros e responsáveis, limitar impactos negativos e controlar riscos proposto pelo Ministério da Ciência e Tecnologia , que enfatiza a segurança de dados, bem como o respeito pelos direitos humanos e dignidade, e a responsabilização dos usuários de IA. Particularmente na pesquisa científica, o Conselho Estadual de Professores também emitiu o Despacho Oficial nº 25/HDGSNN em 2023, solicitando que os conselhos de títulos de professores da indústria e as instalações para avaliar a qualidade de trabalhos científicos dediquem atenção especial à detecção e avaliação de trabalhos que usam ou são auxiliados pela tecnologia de IA. Esses requisitos visam garantir que os resultados da pesquisa usando IA ainda atendam aos padrões científicos, evitando o abuso de IA em pesquisa e publicação científicas.

No futuro, quando a Lei de Inteligência Artificial for promulgada, com regulamentações rígidas relacionadas à ética e à responsabilidade no uso da IA, ela contribuirá para a criação de um ambiente saudável para o desenvolvimento da IA, fornecendo suporte mais ativo e responsável aos cientistas no trabalho de pesquisa.

Festival de Dança

Fonte: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html