O que o Vietnã deve fazer para evitar o risco de se tornar um recurso barato?

(Dan Tri) - No contexto em que o Vietnã é um dos países pioneiros na consideração da promulgação da Lei de IA, o problema não é apenas promover a tecnologia, mas também proteger a soberania digital e a segurança das pessoas.

A explosão da inteligência artificial (IA) traz grandes benefícios para a humanidade, mas também acarreta inúmeras consequências: desde preconceito racial e fraudes online sofisticadas até o risco de países em desenvolvimento se tornarem "minas de dados" baratas.

Diante dessa realidade, o uso responsável da IA ​​deve ser voluntário ou obrigatório? O que o Vietnã deve fazer ao construir um corredor legal para essa área?

À margem do evento VinFuture Science and Technology Week, o repórter conversou com o Professor Toby Walsh, da Universidade de Nova Gales do Sul (Austrália), membro da American Computer Society.

O professor oferece insights sobre como nos "comportamos" com a IA, desde responsabilizar as "máquinas" até dicas para que as famílias se protejam da onda de golpes de alta tecnologia.

Quem é o responsável pela IA?

Professor, o uso responsável da IA ​​deve ser voluntário ou obrigatório? E como devemos nos comportar em relação à IA?

Acredito firmemente que o uso responsável da IA ​​deveria ser obrigatório . Existem incentivos perversos em jogo , com enormes quantias de dinheiro sendo geradas com a IA, e a única maneira de garantir um comportamento adequado é impor regulamentações rigorosas , para que o interesse público esteja sempre equilibrado com os interesses comerciais .

Quando a IA comete um erro, quem é o responsável? Especialmente no caso de agentes de IA, temos a capacidade de corrigir seus mecanismos de funcionamento?

O principal problema com a IA cometendo erros é que não podemos responsabilizá-la. A IA não é humana – e essa é uma falha em todos os sistemas jurídicos do mundo . Somente os humanos podem ser responsabilizados por suas decisões e ações.

De repente, temos um novo "agente", a IA, que pode — se permitirmos — tomar decisões e agir em nosso mundo, o que representa um desafio: a quem responsabilizaremos?

A resposta é: as empresas que implementam e operam sistemas de IA devem ser responsabilizadas pelas consequências causadas por essas "máquinas".

Muitas empresas também falam sobre IA responsável. Como podemos confiar nelas? Como saber se estão falando sério e de forma abrangente, e não apenas usando "IA responsável" como um artifício de marketing?

- Precisamos aumentar a transparência. É importante entender as capacidades e limitações dos sistemas de IA. Também devemos "votar com nossas ações", ou seja, optar por usar os serviços de forma responsável.

Acredito firmemente que a forma como as empresas utilizam a IA de forma responsável se tornará um diferencial no mercado, conferindo-lhes uma vantagem comercial.

Se uma empresa respeita os dados dos clientes, ela se beneficia e atrai mais clientes. As empresas perceberão que fazer o que é certo não é apenas ético, mas também as ajudará a ter mais sucesso. Vejo isso como uma forma de diferenciar as empresas, e as empresas responsáveis ​​são aquelas com as quais podemos nos sentir confortáveis ​​em fazer negócios.

O Vietnã precisa proteger proativamente seus valores culturais.

O Vietnã é um dos poucos países que consideram promulgar uma Lei sobre Inteligência Artificial. Qual a sua avaliação sobre isso? Na sua opinião, para países em desenvolvimento como o Vietnã, quais são os desafios relacionados à ética e à segurança no desenvolvimento da IA?

Estou muito feliz que o Vietnã seja um dos países pioneiros a ter uma lei específica sobre Inteligência Artificial. Isso é importante porque cada país tem seus próprios valores e cultura, e precisa de leis para proteger esses valores.

Os valores e a cultura vietnamitas são diferentes dos da Austrália, China e Estados Unidos. Não podemos esperar que empresas de tecnologia da China ou dos Estados Unidos protejam automaticamente a cultura e o idioma vietnamitas. O Vietnã precisa tomar a iniciativa de proteger esses aspectos.

Tenho consciência de que, no passado, muitos países em desenvolvimento passaram por um período de colonização física. Se não tomarmos cuidado, poderemos passar por um período de "colonização digital". Seus dados serão explorados e você se tornará um recurso barato.

Isso fica em risco se os países em desenvolvimento desenvolverem a indústria de IA de uma forma que apenas explore dados sem controlar ou proteger seus próprios interesses.

Então, como superar essa situação?

É simples: invista nas pessoas. Capacite as pessoas, assegure-se de que elas entendam de IA. Apoie empreendedores, empresas de IA, apoie universidades. Seja proativo. Em vez de esperar que outros países transfiram tecnologia ou nos orientem, devemos ser proativos e dominar a tecnologia.

O professor Toby Walsh compartilha sua experiência na Semana de Ciência e Tecnologia VinFuture (Foto: Comitê Organizador).

Em segundo lugar, precisamos defender veementemente que as plataformas de redes sociais criem um ambiente seguro para os usuários no Vietnã, sem afetar a democracia do país.

Na verdade, existem inúmeros exemplos de como o conteúdo das redes sociais influenciou resultados eleitorais, dividiu países e até incitou o terrorismo.

Passei 40 anos trabalhando com inteligência artificial. Durante os primeiros 30 anos, minha preocupação era como tornar a IA mais poderosa. Nos últimos 10 anos, tenho me interessado cada vez mais e defendido veementemente o desenvolvimento responsável da IA.

Você poderia dar algumas dicas, visto que o Vietnã está em processo de elaboração da Lei de Inteligência Artificial?

- Há muitos casos em que novas leis não são necessárias. Já temos leis de privacidade, já temos leis de concorrência. Essas leis existentes se aplicam ao espaço digital da mesma forma que se aplicam ao mundo físico.

É importante aplicar essas leis com o mesmo rigor no ambiente digital que fazemos no ambiente físico.

No entanto, alguns novos riscos estão surgindo e já começamos a percebê-los. As pessoas estão começando a criar laços com a IA, usando-a como terapeuta, e às vezes isso pode causar danos aos usuários, então precisamos ter cuidado.

Sempre responsabilizamos os fabricantes quando lançam produtos. Por exemplo, se empresas de IA lançarem produtos que prejudiquem os seres humanos, elas também devem ser responsabilizadas.

Então, como podemos impedir que a IA cause efeitos nocivos às crianças e criar um ambiente seguro para elas sempre que a IA surgir, senhor?

— Acho que não aprendemos muitas lições com as redes sociais. Muitos países estão começando a perceber que as redes sociais têm grandes benefícios, mas também muitas desvantagens, principalmente o impacto na saúde mental, nos níveis de ansiedade e na imagem corporal dos jovens, especialmente das meninas.

Muitos países já começaram a implementar medidas para lidar com essa questão. Na Austrália, o limite de idade para o uso de redes sociais entrará em vigor em 10 de dezembro. Acho que precisamos de medidas semelhantes para a IA.

Estamos criando ferramentas que podem ter impactos positivos, mas também podem causar danos, e precisamos proteger as mentes e os corações de nossas crianças desses impactos negativos.

Além disso, espero que os países também emitam regulamentações rigorosas para gerenciar as redes sociais, criando assim um ambiente verdadeiramente seguro para todos ao usar a IA.

Na verdade, não apenas as crianças, mas também os adultos enfrentam os riscos causados ​​pela própria IA. Então, como as pessoas podem usar a IA para melhorar suas vidas sem se tornarem um perigo?

A inteligência artificial ( IA) é aplicada em diversas áreas, contribuindo para melhorar a qualidade de nossas vidas. Na medicina, a IA auxilia na descoberta de novos medicamentos. Na educação , a IA também traz muitos benefícios.

No entanto, dar acesso à IA sem salvaguardas adequadas é muito arriscado. Vimos processos judiciais nos EUA em que pais processaram empresas de tecnologia que levaram seus filhos ao suicídio após interagirem com chatbots de IA.

Embora a porcentagem de usuários do ChatGPT que apresentam problemas de saúde mental seja de apenas alguns por cento, com centenas de milhões de usuários, o número real chega às centenas de milhares.

Os dados são cruciais para o desenvolvimento da IA, mas, do ponto de vista da gestão, um controle excessivo de dados pode prejudicar esse desenvolvimento. Na sua opinião, quais os riscos que um controle de dados mais flexível pode acarretar? Como equilibrar a coleta e a gestão segura de dados com o desenvolvimento da IA?

Concordo plenamente. Os dados são essenciais para o progresso da IA , pois são eles que a impulsionam. Sem dados, não avançaremos. Dados de alta qualidade são fundamentais para tudo o que fazemos. Aliás, o valor comercial e a vantagem competitiva que as empresas obtêm provêm dos dados. A questão crucial é se temos dados de qualidade ou não.

É revoltante ver livros de autores do mundo todo — incluindo os meus — sendo usados ​​sem permissão e sem compensação. É um ato de roubo do fruto do trabalho alheio. Se essa situação persistir, os autores perderão a motivação para escrever e nós perderemos os valores culturais que tanto prezamos.

Precisamos encontrar uma solução mais equitativa do que a que temos agora.

Atualmente, o "Vale do Silício" se apropria do conteúdo e da criatividade dos autores sem lhes pagar por isso – e isso é insustentável. Comparo a situação atual ao Napster e aos primórdios da música online nos anos 2000. Naquela época, a música online era toda "roubada", mas isso não poderia durar para sempre, porque os músicos precisavam de renda para continuar criando.

Por fim, temos sistemas de streaming pagos , como o Spotify ou o Apple Music, ou música com anúncios, em que uma parte da receita retorna ao artista. Precisamos fazer o mesmo com os livros, para que os autores obtenham valor com seus dados. Caso contrário, ninguém se sentirá motivado a escrever livros, e o mundo ficará muito pior sem novas obras.

No âmbito da Semana de Ciência e Tecnologia VinFuture, a exposição "Toa V - Ponto de Contato da Ciência" também acontecerá no Centro de Arte Contemporânea Vincom Royal City (Foto: Comitê Organizador).

A inteligência artificial (IA) está muito desenvolvida no Vietnã. Nos últimos tempos, o Vietnã implementou diversas políticas para promover a IA, mas também enfrenta um problema: fraudes causadas por ela. Assim, na opinião do professor, como o Vietnã deve lidar com essa situação? Quais são os conselhos do professor para aqueles que utilizam IA atualmente, a fim de garantir a segurança e a proteção de seus dados?

Para cada indivíduo, acredito que a maneira mais simples seja verificar as informações. Por exemplo, ao receber uma ligação ou um e - mail, digamos, de um banco, precisamos verificar novamente: podemos retornar a ligação para o número do assinante ou entrar em contato diretamente com o banco para confirmar as informações.

Atualmente, existem muitos e-mails falsos, números de telefone falsos e até mesmo chamadas de Zoom falsas. Esses golpes são simples, baratos e não exigem muito tempo.

Na minha família, também temos nossa própria medida de segurança: uma "pergunta secreta" que só os membros da família sabem, como o nome do nosso coelho de estimação. Isso garante que informações importantes permaneçam dentro da família e não sejam divulgadas.

O Vietnã também incluiu o ensino de IA na educação geral, então o que deve ser observado nesse processo?

A inteligência artificial ( IA) está mudando o que é ensinado e como é ensinado. Ela afeta habilidades importantes para o futuro, como pensamento crítico, comunicação, inteligência social e inteligência emocional. Essas habilidades se tornarão essenciais.

A IA pode auxiliar no ensino dessas habilidades, por exemplo, como tutora pessoal, assistente de estudos pessoal, fornecendo ferramentas educacionais muito eficazes por meio de aplicações de IA.

Obrigado, professor, por dedicar seu tempo para conversar conosco!

Fonte: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm