IA transforma moradores de rua em piada, alerta polícia dos EUA

A tecnologia de IA está inaugurando uma era de criatividade sem precedentes, na qual as pessoas podem criar imagens, vozes e conteúdo digital com apenas alguns cliques. No entanto, essa conveniência também traz sérios riscos, especialmente quando a IA é usada como ferramenta para criar pegadinhas perigosas.

Situações aparentemente inofensivas estão se tornando combustível para crises sociais, legais e psicológicas.

IA transforma moradores de rua em personagens virtuais em brincadeira no TikTok – a linha entre entretenimento e ofensa está se esvaindo. (Fonte: The Verge)

TikTok e a piada dos “sem-teto com IA”

Nos EUA, uma tendência do TikTok está alertando a polícia: usuários estão usando a IA do Snapchat para criar imagens de moradores de rua aparecendo em casas e filmando as reações de pânico de seus pais. Alguns pais chamaram a polícia, o que provocou uma resposta de emergência que parece um arrombamento real.

O Departamento de Polícia de Salem, Massachusetts, alerta que esse comportamento pode resultar em ação da SWAT.

A agência resumiu a situação da melhor forma em um comunicado: "Esta pegadinha humilha os moradores de rua, causa pânico entre os que ligam e desperdiça recursos policiais. Os policiais chamados para atender a ligação não sabiam da pegadinha e trataram a ligação como um roubo real em andamento, criando uma situação potencialmente perigosa."

Pegadinhas com IA estão se espalhando pelo mundo, não apenas nos EUA. Na Índia, um vídeo deepfake durante as eleições de 2024 causou confusão pública quando um político foi acusado de fazer declarações polêmicas – geradas inteiramente por IA.

Em todo o mundo , o Dia da Mentira se tornou um "playground de IA" com uma série de imagens falsas de celebridades e mensagens falsas de parentes, causando traumas psicológicos e interrompendo serviços de emergência.

“O desenvolvimento da tecnologia de IA traz consigo o risco de ser explorada para fins criminosos ou de causar pânico social”, alerta Lewis Griffin, pesquisador da University College London.

Cena de inundação no Palácio Gyeongbokgung criada por IA. (Foto cortada do vídeo, fonte: Youtube). — Cena de inundação no Palácio Gyeongbokgung criada por IA. (Foto cortada do vídeo , fonte: Youtube).

Educação e controle

Para prevenir o uso indevido da IA, é fundamental educar os usuários, especialmente os jovens, sobre ética tecnológica. A IA não é um brinquedo, e usá-la para criar conteúdo falso deve ser visto como um comportamento potencialmente prejudicial.

Plataformas como TikTok e Snapchat precisam implementar filtros de conteúdo de IA mais fortes, além de alertas claros quando os usuários criarem imagens ou sons falsos. Isso não apenas protegerá os usuários, mas também reduzirá o risco de causar pânico na comunidade.

De acordo com uma pesquisa do Pew Research, embora o público ainda tenha muitas preocupações com a IA, os especialistas estão mais otimistas. No entanto, ambos os grupos concordam que regulamentações claras são necessárias para prevenir abusos. Construir uma estrutura legal e um processo para controlar a IA não é apenas responsabilidade do governo, mas também obrigação de toda a sociedade.

A IA pode criar mundos fantásticos, mas se não for controlada, pode facilmente se tornar uma ferramenta para confusão e distorção cognitiva. (Fonte: loveonly.ai/Instagram)

Além disso, as autoridades precisam trabalhar em estreita colaboração com empresas de tecnologia para desenvolver procedimentos de resposta adequados. Quando uma pegadinha de IA leva a uma chamada de emergência, o desperdício de recursos e o risco de reação exagerada não podem ser ignorados.

Comentário (0)