Por que vídeos falsos de enchentes criados por IA conseguem "burlar" o Facebook e o TikTok?

(NLDO) - Vídeos falsos criados por IA costumam atrair um grande número de visualizações e compartilhamentos, pois apelam para a curiosidade e a compaixão das pessoas em áreas afetadas por enchentes.

Durante as prolongadas inundações na região central, muitos conteúdos falsos gerados por inteligência artificial se espalharam pelas redes sociais. O conteúdo desses vídeos se concentra principalmente em imagens de pessoas presas, casas arrastadas pela enchente, resgates de emergência, etc., distorcendo a situação e atacando as autoridades.

Esses vídeos falsos atraem centenas de milhares a milhões de visualizações e compartilhamentos porque apelam para a compaixão e despertam emoções fortes, como a cena de um menino abraçando um cachorro em um telhado no meio de um mar de água, pessoas lutando contra a enchente... Muitas contas se aproveitam da compaixão para "atrair" interações, vender produtos ou incitar a opinião pública.

O compartilhamento de imagens de origem desconhecida por usuários faz com que notícias falsas se espalhem rapidamente e causem sérios mal-entendidos sobre a situação real.

Curiosamente, embora seja um produto de IA, quando publicado em redes sociais, não é identificado como tal pela plataforma.

Vídeos gerados por IA são postados em redes sociais, mas não são identificados como tal.

O Sr. Le Anh Bang, Diretor de Soluções para Clientes da Haravan Technology Joint Stock Company, afirmou que o fato de muitos vídeos serem criados ou editados com IA, mas não exibirem o rótulo "Gerado por IA" nas plataformas TikTok e Facebook, pode decorrer de mudanças na forma como as plataformas identificam e classificam o conteúdo.

Segundo o Sr. Bang, se um vídeo for criado inteiramente por IA, a possibilidade de ser detectado e rotulado ainda é alta. No entanto, com conteúdo que envolve participação humana, como o uso de imagens e vídeos reais e, em seguida, o auxílio da IA ​​para cortar, editar cenas ou criar movimentos, o sistema tem dificuldade em determinar a fronteira entre "conteúdo gerado por IA" e "conteúdo assistido por IA".

É essa ambiguidade que faz com que muitos vídeos com elementos de IA ainda sejam exibidos como vídeos normais, sem aviso prévio.

Segundo o Sr. Bang, a tecnologia de IA está se desenvolvendo em um ritmo muito acelerado, enquanto as plataformas precisam de tempo para atualizar os algoritmos e criar novos critérios de reconhecimento.

Embora a maior parte do conteúdo no ambiente digital atual conte com a participação de IA, o arcabouço legal ainda está sendo aperfeiçoado, o que torna o controle total muito difícil.

Portanto, cada usuário de rede social precisa ter mais cuidado ao receber e compartilhar informações, pois um clique não verificado pode, involuntariamente, contribuir para a disseminação de notícias falsas.

Um estudo realizado pela empresa de pesquisa americana HostingAdvice revelou que 58% dos americanos entre 18 e 43 anos já foram enganados por conteúdo gerado por inteligência artificial, o que evidencia os crescentes perigos das notícias falsas e a erosão da confiança nas informações veiculadas em plataformas digitais.

Fonte: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm