Ao olhar novamente, ela percebeu que se tratava apenas de uma foto gerada por IA, usada por uma página do Facebook para ilustrar uma publicação sentimental. Vale mencionar que esta foi a segunda vez que ela "quase" foi enganada por IA. Antes disso, ela também confundiu o vídeo "'aposentados' encontrando 'turistas de verão'" com pessoas e eventos reais.

Trabalhando na área da comunicação social e estando regularmente exposta a conteúdo de IA, a Sra. Linh teve de admitir que esta tecnologia se desenvolveu tão rápida e sofisticadamente que é difícil distinguir entre o real e o falso.

captura de tela 1749203761184.png
A foto viral no Facebook foi criada por inteligência artificial. Captura de tela.

Especialistas também concordam com essa visão. Ferramentas como Google Veo 3, Kling AI, DALL·E 3, Midjourney... alcançaram a capacidade de criar imagens e vídeos incrivelmente realistas.

O Sr. Do Nhu Lam, Diretor de Treinamento do Instituto de Tecnologia Blockchain e Inteligência Artificial ABAII, destacou que, graças à tecnologia multimodal e aos modelos de linguagem avançados, essas ferramentas podem sincronizar imagens, sons, expressões faciais e movimentos naturais, criando produtos altamente convincentes.

Foto de Do Nhu Lam.jpg
O Sr. Do Nhu Lam, Diretor de Treinamento do Instituto de Tecnologia Blockchain e Inteligência Artificial da ABAII, afirmou que a tecnologia avançada de IA proporciona produtos altamente convincentes. Foto: NVCC

O Sr. Lam comentou que os avanços da IA ​​abrem um grande potencial em áreas como criação de conteúdo, publicidade, entretenimento e educação . No entanto, essa capacidade de recriação "realista" também apresenta muitos desafios em termos de ética, controle e segurança da informação, uma vez que a fronteira entre realidade e virtualidade está cada vez mais tênue.

A publicação no Facebook que a Sra. Linh viu atraiu quase 300.000 interações e mais de 16.000 comentários. Muitos usuários correram para parabenizar ou expressar seus sentimentos sem saber que se tratava apenas de uma ilustração gerada por IA. Algumas pessoas mais "sóbrias" criticaram os "internautas por serem ingênuos demais" para se deixarem enganar pela IA.

Em grupos e fóruns do Facebook, não é difícil encontrar vídeos com inteligência artificial criados e compartilhados por usuários. Em particular, o surgimento do Google Veo 3 aumentou significativamente a qualidade dos vídeos, especialmente a voz, que se adapta perfeitamente ao formato da boca do personagem. Se o espectador não prestar atenção, pode facilmente se confundir.

Como manter a sanidade na era da IA

Fotos e vídeos criados por IA são difíceis de distinguir, representando grandes riscos para os usuários, especialmente para grupos vulneráveis ​​que não possuem familiaridade com tecnologia. De acordo com Vu Thanh Thang, Diretor de Inteligência Artificial (CAIO) da SCS Cyber ​​Security Joint Stock Company, a IA está sendo usada por cibercriminosos em fraudes (burlando sistemas biométricos, eKYC, etc.), personificando pessoas famosas para disseminar informações falsas e causar confusão pública. Há muitos casos de criminosos com conhecimento técnico avançado que se aproveitam da IA ​​para criar fotos deepfake, se passando por parentes para realizar videochamadas e aplicar golpes financeiros.

Sr. Vu Thanh Thang.jpg
O Sr. Vu Thanh Thang, Diretor de Inteligência Artificial (CAIO) da SCS Cyber ​​Security Joint Stock Company, afirmou que entramos em uma era onde tudo pode ser falsificado. Foto: NVCC

Segundo o Sr. Thang, as empresas também são alvos potenciais de criminosos que utilizam IA. Eles podem usar Deepfakes de IA para se passar por funcionários, burlar sistemas de segurança para desbloquear o controle de presença e se passar por líderes empresariais para difamar e destruir a reputação.

Compartilhando da mesma opinião, o Sr. Do Nhu Lam, da ABAII, apontou três consequências para usuários individuais causadas pela IA: fraude financeira, difamação da reputação e exploração de informações privadas. No caso das empresas, a Arup perdeu 25 milhões de dólares depois que funcionários de sua filial em Hong Kong foram enganados para participar de uma reunião por vídeo fraudulenta e transferir dinheiro conforme solicitado.

Tudo o que você precisa saber sobre o Veo 3, a ferramenta de IA que está gerando vídeos virais . O mais recente modelo de IA para geração de vídeos do Google, o Veo 3, impressiona com sua capacidade de criar áudio sincronizado com imagens de forma realista.

Outro risco igualmente sério é que, quando as pessoas não conseguem distinguir entre o que é verdadeiro e o que é falso, a confiança pública nos meios de comunicação e nas fontes oficiais de notícias será corroída.

O Sr. Lam citou um relatório do Instituto Reuters de 2024 que mostra que a porcentagem de usuários globais que confiam em notícias em plataformas de mídia caiu para o nível mais baixo em uma década, em grande parte devido ao surgimento de conteúdo deepfake.

Segundo o especialista Vu Thanh Thang, “estamos numa era em que toda informação pode ser falsificada e já não representa um ‘risco’”. Portanto, é necessário aumentar a conscientização, aplicar medidas de proteção pessoal e aprender sobre inteligência artificial para viver em paz .

Os dois especialistas recomendam que os usuários sempre verifiquem e autentiquem as informações antes de tomar decisões; que se informem para identificar conteúdo falso; que limitem o compartilhamento de informações pessoais online; e que denunciem a disseminação de conteúdo falso. “Somente sendo proativos e bem informados, os usuários podem realmente se proteger e contribuir para a construção de um ciberespaço mais seguro na era digital”, afirmou o Sr. Lam.

Preocupado com a extinção da humanidade devido à IA, o "padrinho" Yoshua Bengio acaba de tomar uma atitude . O "padrinho" da IA, Yoshua Bengio, fundou uma organização sem fins lucrativos com o objetivo de criar sistemas de inteligência artificial seguros, em vez de revelar personalidades perigosas para os humanos.

Fonte: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html