La IA convierte a las personas sin hogar en una broma, advierte la policía estadounidense

Muchos usuarios utilizan IA para crear imágenes de personas sin hogar que aparecen en sus casas para gastar bromas a sus padres.

La tecnología de IA está marcando el comienzo de una era de creatividad sin precedentes, donde las personas pueden crear imágenes, voces y contenido digital con solo unos clics. Sin embargo, esta comodidad también conlleva graves riesgos, especialmente cuando la IA se utiliza como herramienta para crear bromas peligrosas.

Situaciones aparentemente inofensivas se están convirtiendo en combustible para crisis sociales, jurídicas y psicológicas.

La IA convierte a personas sin hogar en personajes virtuales en una broma de TikTok: la línea entre el entretenimiento y la ofensa se difumina. (Fuente: The Verge)

TikTok y el chiste de las “personas sin hogar con inteligencia artificial”

En EE. UU., una tendencia en TikTok está alertando a la policía: los usuarios usan la inteligencia artificial de Snapchat para crear imágenes de hombres sin hogar que aparecen en casas y luego graban las reacciones de pánico de sus padres. Algunos padres han llamado a la policía, lo que ha provocado una respuesta de emergencia que parece un robo real.

El Departamento de Policía de Salem, Massachusetts advierte que este comportamiento podría resultar en una acción del SWAT.

La agencia lo resumió mejor en un comunicado: «Esta broma degrada a las personas sin hogar, genera pánico entre quienes llaman y desperdicia recursos policiales. Los agentes llamados para responder desconocían la broma y trataron la llamada como un robo real en curso, creando una situación potencialmente peligrosa».

Las bromas con IA se están extendiendo por todo el mundo, no solo en Estados Unidos. En India, un video deepfake durante las elecciones de 2024 causó confusión pública cuando un político fue acusado de hacer declaraciones controvertidas, generadas íntegramente por IA.

En todo el mundo , el Día de los Inocentes se ha convertido en un "patio de recreo de la IA" con una serie de imágenes falsas de celebridades, mensajes falsos de familiares, que causan traumas psicológicos e interrumpen los servicios de emergencia.

“El desarrollo de la tecnología de IA conlleva el riesgo de ser explotada con fines delictivos o causar pánico social”, advierte Lewis Griffin, investigador del University College de Londres.

Escena de inundación en el Palacio Gyeongbokgung creada con inteligencia artificial. (Foto recortada de un video , fuente: YouTube).

Educación y control

Para prevenir el uso indebido de la IA, es fundamental educar a los usuarios, especialmente a los jóvenes, sobre la ética tecnológica. La IA no es un juguete, y usarla para crear contenido falso debe considerarse una conducta potencialmente dañina.

Plataformas como TikTok y Snapchat necesitan implementar filtros de contenido de IA más potentes, junto con advertencias claras cuando los usuarios creen imágenes o sonidos falsos. Esto no solo protegerá a los usuarios, sino que también reducirá el riesgo de generar pánico en la comunidad.

Según una encuesta de Pew Research, aunque el público aún tiene muchas preocupaciones sobre la IA, los expertos son más optimistas. Sin embargo, ambos grupos coinciden en que se necesitan regulaciones claras para prevenir abusos. Desarrollar un marco legal y un proceso para controlar la IA no es solo responsabilidad del Gobierno, sino también obligación de toda la sociedad.

La IA puede crear mundos fantásticos, pero si no se controla, puede convertirse fácilmente en una herramienta de confusión y distorsión cognitiva. (Fuente: loveonly.ai/Instagram)

Además, las autoridades deben colaborar estrechamente con las empresas tecnológicas para desarrollar procedimientos de respuesta adecuados. Cuando una broma de IA da lugar a una llamada de emergencia, no se puede pasar por alto el desperdicio de recursos y el riesgo de una reacción exagerada.

Señor Quang

Fuente: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html