O lado negro do abuso da IA

Prevê-se que o Ano Novo Lunar de Giap Thin 2024 exploda online com inúmeros aplicativos para saudações em Tet suportados por tecnologia de IA. Além de aplicativos de "gigantes da tecnologia" como Microsoft Copilot, Google Bard ou ChatGPT da OpenAI... também há muitos aplicativos vietnamitas.

E não apenas com saudações de texto, os usuários também podem pedir à IA para criar cartões Tet com fotos e vídeos .

Cartões comemorativos Tet gerados por IA para o Ano do Dragão.

No entanto, muitas pessoas se sentirão "deprimidas" ao saber que os desejos de Ano Novo enviados a elas são criados por "robôs". Eles não contêm mais as emoções genuínas de quem os envia.

Há muito tempo, as pessoas alertam sobre o abuso da IA ​​em todas as áreas da vida. Esse abuso torna as pessoas preguiçosas em usar o cérebro. Anteriormente, a revolução da automação por máquinas ajudou as pessoas a reduzir o trabalho manual e físico; mas, se abusada, tornará as pessoas preguiçosas e fracas. Hoje, a tecnologia da IA ​​afetou as atividades mentais humanas. Não há como negar os benefícios que a IA traz, mas sim como aplicá-la de forma eficaz, no momento certo e no lugar certo. O abuso da IA, mesmo que não seja para fins ruins, ainda não é benéfico para os usuários.

Especialistas também observam que, no contexto da explosão de aplicativos de IA, o Tet deste ano verá mais aplicativos de edição de fotos pessoais, criados a partir de imagens de usuários. É divertido, mas os usuários precisam ter cuidado e usar apenas aplicativos de fornecedores confiáveis. O abuso de aplicativos de "mudança de rosto" pode fazer com que os usuários tenham sua "identidade roubada" para fins maliciosos, até mesmo prejudiciais.

O Departamento de Segurança da Informação ( Ministério da Informação e Comunicações ) alerta que a maioria das atividades de edição facial online exige o fornecimento de imagens faciais pessoais, o que representa muitos riscos potenciais à segurança da informação. O Sr. Nguyen Duy Khiem, representante do Departamento de Segurança da Informação, afirmou: "Além de exigir que os usuários forneçam imagens, a maioria dos aplicativos também solicita acesso a bibliotecas de fotos, câmeras de celulares, bem como acesso a endereços de e-mail, números de telefone, etc. Com base nisso, os provedores de serviços podem coletar informações e processar as informações pessoais dos usuários para diferentes fins."

De fato, com imagens de retratos pessoais fornecidas pelos usuários, os proprietários de aplicativos podem criar outras imagens, até mesmo fazendo com que dados deepfake causem muitas consequências imprevisíveis.

Fonte: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm