Empresas que utilizam IA de forma responsável obterão vantagem comercial.

O professor Toby Walsh, da Universidade de Nova Gales do Sul, Austrália, falou sobre o uso responsável e ético da IA ​​à margem do programa de entrevistas "IA para a humanidade: ética e segurança da IA ​​na nova era".

O painel de discussão "IA para a humanidade: ética e segurança da IA ​​na nova era", no âmbito da Semana de Ciência e Tecnologia VinFuture 2025, reúne cientistas, políticos e inventores para debater o desenvolvimento responsável da IA, com foco em valores humanísticos.

À margem da discussão, o Professor Toby Walsh, da Universidade de Nova Gales do Sul (Austrália) e membro da Associação Americana para Maquinaria da Computação, falou sobre o uso ético e responsável da IA.

O uso responsável da IA ​​deveria ser obrigatório.

- De acordo com o professor, o uso responsável da IA ​​deve ser voluntário ou obrigatório? E como devemos nos comportar em relação à IA?

Professor Toby Walsh: Acredito firmemente que o uso responsável da IA ​​deveria ser obrigatório. Existem incentivos perversos no momento, com as enormes quantias de dinheiro geradas pela IA, e a única maneira de garantir uma boa conduta é ter regulamentações rigorosas em vigor, para que o interesse público seja sempre equilibrado com os interesses comerciais.

- Você pode dar exemplos específicos de diferentes países de aplicações de IA responsáveis ​​e éticas?

Professor Toby Walsh: Um exemplo clássico são as decisões de alto risco, como a aplicação de penas nos Estados Unidos, onde um sistema de IA é usado para fazer recomendações sobre o tempo de prisão de uma pessoa e a probabilidade de reincidência.

Infelizmente, esse sistema foi treinado com dados históricos e, involuntariamente, reflete preconceitos raciais do passado que levaram à discriminação contra pessoas negras. Não devemos permitir que sistemas como esse decidam quem será preso.

Quando a IA comete um erro, quem é o responsável? Especialmente no caso de agentes de IA, temos a capacidade de corrigir seus mecanismos de funcionamento?

Professor Toby Walsh: O principal problema quando a IA comete erros é que não podemos responsabilizá-la. A IA não é humana, e essa é uma falha em todos os sistemas jurídicos do mundo . Somente os humanos são responsáveis ​​por suas decisões e ações.

De repente, temos um novo "agente" chamado IA, que pode – se permitirmos – tomar decisões e agir em nosso mundo, o que representa um desafio: a quem responsabilizaremos?

A solução é responsabilizar as empresas que implementam e operam sistemas de IA pelas consequências causadas por essas "máquinas".

O professor Toby Walsh, da Universidade de Nova Gales do Sul, participou do seminário "IA para a humanidade: ética e segurança da IA ​​na nova era", no âmbito da Semana de Ciência e Tecnologia VinFuture 2025. (Foto: Minh Son/Vietnam+)

Muitas empresas também falam sobre IA responsável. Como podemos confiar nelas? Como saber se estão falando sério e de forma abrangente, e não apenas usando "IA responsável" como um artifício de marketing?

Professor Toby Walsh: Precisamos aumentar a transparência. É importante entender as capacidades e limitações dos sistemas de IA. Também devemos "votar com nossas ações" – optando por usar os serviços de forma responsável.

Acredito firmemente que a forma como as empresas utilizam a IA de maneira responsável se tornará um diferencial no mercado, conferindo-lhes uma vantagem competitiva. Se uma empresa respeita os dados dos clientes, ela se beneficiará e atrairá novos clientes.

As empresas perceberão que fazer o que é certo não é apenas ético, mas também as tornará mais bem-sucedidas. Vejo isso como uma forma de diferenciar as empresas, e as empresas responsáveis ​​são aquelas com as quais podemos nos sentir confortáveis ​​em fazer negócios.

'Se não tomarmos cuidado, podemos vivenciar um período de colonização digital.'

O Vietnã é um dos poucos países que consideram promulgar uma Lei sobre Inteligência Artificial. Qual a sua avaliação sobre isso? Na sua opinião, para países em desenvolvimento como o Vietnã, quais são os desafios relacionados à ética e à segurança no desenvolvimento da IA? Que recomendações o professor tem para que o Vietnã alcance seus objetivos na estratégia de IA – estar no topo da região e do mundo em pesquisa e domínio da IA?

Professor Toby Walsh: Estou muito satisfeito que o Vietnã seja um dos países pioneiros a ter uma lei específica sobre Inteligência Artificial. Isso é importante porque cada país tem seus próprios valores e cultura e precisa de leis para proteger esses valores.

Os valores e a cultura vietnamitas são diferentes dos da Austrália, China e Estados Unidos. Não podemos esperar que empresas de tecnologia da China ou dos Estados Unidos protejam automaticamente a cultura e o idioma vietnamitas. O Vietnã precisa tomar a iniciativa de proteger esses aspectos.

O professor Toby Walsh alerta que, se não tomarmos cuidado, poderemos vivenciar um período de colonização digital. (Foto: Minh Son/Vietnam+)

Tenho consciência de que, no passado, muitos países em desenvolvimento passaram por um período de colonização física. Se não tomarmos cuidado, poderemos passar por um período de "colonização digital". Seus dados serão explorados e você se tornará um recurso barato.

Isso fica em risco se os países em desenvolvimento desenvolverem a indústria de IA de uma forma que apenas explore dados sem controlar ou proteger seus próprios interesses.

— Então, como superar essa situação, professor?

Professor Toby Walsh: É simples, invista nas pessoas. Capacite as pessoas, assegure-se de que elas entendam de IA. Apoie empreendedores de IA, empresas, apoie universidades. Seja proativo. Em vez de esperar que outros países transfiram tecnologia ou nos orientem, precisamos ser proativos e assumir a responsabilidade pela tecnologia.

Mais importante ainda, precisamos defender veementemente que as plataformas de mídia social criem um ambiente seguro para os usuários no Vietnã, sem afetar a democracia do país.

Na verdade, existem inúmeros exemplos de como o conteúdo das redes sociais influenciou resultados eleitorais, dividiu países e até incitou o terrorismo.

A inteligência artificial (IA) está muito desenvolvida no Vietnã. Nos últimos tempos, o Vietnã implementou diversas políticas para promover a IA, mas também enfrenta um problema: fraudes causadas por ela. Então, na opinião do professor, como o Vietnã deve lidar com essa situação?

Professor Toby Walsh: Para indivíduos, acredito que a maneira mais simples seja verificar as informações. Por exemplo, quando recebemos uma ligação ou um e-mail, digamos, de um banco, precisamos verificar novamente: podemos retornar a ligação ou entrar em contato diretamente com o banco para confirmar as informações. Hoje em dia, existem muitos e-mails falsos, números de telefone falsos, até mesmo chamadas de Zoom podem ser falsificadas. Esses golpes são muito simples, baratos e não exigem muito tempo.

Na minha família, também temos nossa própria medida de segurança: uma "pergunta secreta" que só os membros da família sabem, como o nome do nosso coelho de estimação. Isso garante que informações importantes permaneçam dentro da família e não sejam divulgadas.

- Muito obrigado./.

O professor Toby Walsh é um pesquisador honorário da ARC e professor Scientia em Inteligência Artificial (IA) na Universidade de Nova Gales do Sul, em Sydney (UNSW). Ele é um forte defensor do estabelecimento de limites para garantir que a IA seja usada para melhorar a vida das pessoas.

Ele também é membro da Academia Australiana de Ciências e foi incluído na lista internacional de "pessoas influentes em IA".

(Vietnã+)

Fonte: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp