Inteligência Artificial: Devemos aumentar a segurança em vez de apenas nos concentrarmos no desenvolvimento de mecanismos mais robustos.

Em vez de se concentrarem apenas no desenvolvimento da IA ​​para se tornarem mais fortes, especialistas influentes em IA alertam que os humanos precisam pensar urgentemente em como conviver com a IA – uma entidade mais inteligente do que eles próprios – e impedir que ela assuma o controle.

O painel de discussão “IA para a humanidade: ética e segurança da IA ​​na nova era”, no âmbito da Semana de Ciência e Tecnologia VinFuture 2025, reúne cientistas , políticos e inventores para debater o desenvolvimento responsável da IA, com foco em valores humanísticos.

Pense urgentemente em como conviver com a IA — uma entidade mais inteligente que você.

Em sua participação no seminário, o Professor Toby Walsh, da Universidade de Nova Gales do Sul, Austrália, e membro da Associação Americana de Computação, afirmou: "Acredito firmemente que o uso responsável da IA ​​deveria ser obrigatório. Existem muitos incentivos perversos hoje em dia, com enormes quantias de dinheiro sendo geradas graças à IA, e a única maneira de garantir um comportamento adequado é aplicar regulamentações rigorosas, para que os interesses públicos sejam sempre equilibrados com os interesses comerciais."

Ele citou um exemplo típico de decisões importantes, como julgamentos e sentenças nos Estados Unidos, onde um sistema de IA foi usado para fazer recomendações sobre o tempo de prisão de uma pessoa e a probabilidade de reincidência. Infelizmente, esse sistema foi treinado com dados históricos e, involuntariamente, refletiu preconceitos raciais do passado, levando à discriminação contra pessoas negras.

Professor Toby Walsh, Universidade de Nova Gales do Sul, Austrália, membro da Sociedade Americana de Computação.

Portanto, as empresas que implementam e operam sistemas de IA devem ser responsabilizadas pelas consequências causadas por essas "máquinas".

O professor Geoffrey Hinton, vencedor do prêmio principal da VF 2024, está preocupado com o fato de a IA estar se tornando cada vez melhor em projetar vírus perigosos, realizar ataques cibernéticos e criar vídeos falsos para interferir em eleições. Nos próximos 20 anos, a IA se tornará mais inteligente do que nós e não saberemos como impedir que ela assuma o controle dos humanos.

Portanto, este professor enfatizou: "Precisamos pensar urgentemente em como conviver com entidades mais inteligentes do que nós. Esta é uma situação que a humanidade nunca enfrentou antes, é algo novo e precisamos investir muito em pesquisa antes que isso aconteça."

É necessário reforçar a cooperação internacional para limitar os riscos da IA.

Compartilhando dessa preocupação, o Professor Yoshua Bengio, vencedor do prêmio principal do VinFuture 2024, afirmou que os modelos de IA, suas capacidades e níveis de autonomia ainda estão se desenvolvendo em um ritmo rápido e constante. Se essa tendência continuar, os sistemas autônomos de IA poderão superar os humanos na maioria das tarefas cognitivas em apenas 5 a 10 anos.

Este seria um ponto de virada histórico que poderia melhorar drasticamente nossa qualidade de vida. Mas, se não for tratado com cautela, também poderá representar enormes riscos para a democracia, a estabilidade geopolítica e até mesmo o futuro da humanidade.

"Precisamos aprimorar a segurança da IA ​​avançada, em vez de apenas nos concentrarmos em torná-la mais robusta. Segurança e confiança não são fatores secundários, mas essenciais no processo de desenvolvimento para o benefício da humanidade. Precisamos agir em conjunto, tanto no âmbito político quanto no científico", afirmou.

Professor Yoshua Bengio - Vencedor do prêmio principal do VinFuture 2024.

Este cientista recomenda que, em termos de políticas públicas, o mundo precisa de cooperação internacional. Em termos científicos, é necessário compreender melhor como projetar IA que seja superior em capacidade e inofensiva para os humanos, manter a capacidade de controlar a IA para que ela se comporte de forma segura mesmo quando os humanos a instruem a fazer algo errado e construir barreiras técnicas e sociais para garantir que a IA seja consistente com as normas, intenções, valores e interesses humanos.

O Dr. Vinton Grey Cert (Vice-Presidente e Diretor de Evangelismo na Internet do Google - Vencedor do Grande Prêmio VF 2022) concorda: Precisamos responsabilizar a IA, estabelecer uma cadeia de custódia para saber o que ela faz, quando, especialmente quando algo dá errado. Muitos dos princípios que se aplicam aos humanos também se aplicam aos agentes de IA no ambiente online.

“Precisamos estabelecer simultaneamente novas normas, onde o uso de identificação forte, criptografia para proteger informações, aplicação de mecanismos para garantir a responsabilização e proteção de identidades contra o roubo por terceiros se tornem um hábito comum. Devemos usar a tecnologia para limitar os riscos desde o início e deixar claro que qualquer pessoa que cause danos à comunidade e à sociedade deve enfrentar as consequências de seu comportamento. Isso requer cooperação internacional”, afirmou.

O Vietnã precisa trilhar seu próprio caminho na construção de dados de IA.

O professor associado Luu Anh Tuan, da Universidade Tecnológica de Nanyang (Singapura) e da Universidade VinUni (Vietnã), afirmou que outros países possuem conjuntos de dados de cerca de 10 anos, mas o Vietnã está começando do zero. Portanto, podemos construir dados sustentáveis ​​desde o início, fornecendo dados limpos, éticos e culturalmente apropriados desde o princípio.

No entanto, o maior desafio para o Vietnã é a especificidade da língua vietnamita. Temos um sistema dialetal diversificado, uma rica cultura regional e formas de tratamento extremamente complexas. Grandes plataformas como ChatGPT ou Gemini oferecem suporte ao vietnamita, mas a qualidade não é profunda porque elas não compreendem os dialetos, os costumes ou a história do Vietnã.

O Vietnã precisa construir seu próprio modelo vietnamita. Além disso, devemos desenvolver um modelo de código aberto para que pequenas empresas possam usá-lo e contribuir. "Se dependermos apenas de modelos estrangeiros na forma de 'caixas-pretas', seremos apenas usuários de IA e não desenvolvedores de IA", disse ele.

Atualmente, o professor associado Luu Anh Tuan e seus colegas estão desenvolvendo um banco de dados de IA para o Vietnã. Fatores como dialeto, história e cultura devem ser considerados como foco.

Ele também disse que, em outros países, os alunos são educados sobre IA desde muito cedo. O Vietnã está apenas começando nesse aspecto, mas podemos acelerar o processo aprendendo e nos adaptando conforme necessário.

"Os jovens vietnamitas são muito dinâmicos; eles só precisam ser plenamente educados sobre responsabilidade digital. Devemos ter um órgão unificado para confirmar e padronizar a qualidade dos dados e os padrões éticos. A VinUni também participa do conselho para construir um sistema de padrões éticos e continuará contribuindo para esse processo", disse ele.

Professor Associado Luu Anh Tuan, Universidade Tecnológica de Nanyang (Singapura), Universidade VinUni (Vietnã).

Em resposta à estratégia de Investimento Estrangeiro Direto (IED) que visa tornar o Vietnã líder na região em Inteligência Artificial (IA) até 2030, o Professor Associado Tuan acredita que o Vietnã possui recursos humanos de alta qualidade, comprovados por suas conquistas internacionais em matemática, física e química. Se soubermos como unir esforços e implementar políticas sólidas, a meta de 2030 poderá ser plenamente alcançada.

O professor Toby Walsh recomenda que o Vietnã invista em pessoas e aprimore proativamente as habilidades da população, garantindo que elas compreendam a IA; e apoie empreendedores, empresas e universidades da área de IA. Em vez de esperar que outros países transfiram tecnologia ou nos orientem, devemos ser proativos e dominar a tecnologia.

Além disso, o Vietnã precisa mobilizar fortemente as plataformas de redes sociais para criar um ambiente seguro para os usuários domésticos, sem afetar a democracia do país.

THAO LE-THIEN LAM

Fonte: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html