El uso de IA (inteligencia artificial) para producir información falsa e influir en las elecciones presidenciales estadounidenses ya no es una preocupación, sino una realidad. El 22 de enero, el Departamento de Justicia de New Hampshire (EE. UU.) publicó un aviso sobre una situación en la que algunas personas recibieron una grabación falsa de la voz del presidente Joe Biden, en la que se les pedía que no votaran en las elecciones primarias locales.
La grabación, creada con tecnología Deepfake impulsada por inteligencia artificial, insta a los votantes a "guardar" sus papeletas y afirma que "los votos de los ciudadanos marcarán la diferencia en noviembre, no el próximo martes".
La voz del presidente estadounidense Joe Biden fue falsificada para instar a los votantes a no votar.
Según Bloomberg, la empresa de detección de fraude de voz Pindrop Security descubrió que la voz falsa de Biden fue creada por tecnología de la startup ElevenLabs, una startup de inteligencia artificial que se especializa en desarrollar generadores de voz de inteligencia artificial, utilizando modelos de lenguaje capaces de agregar entonación similar a la humana al contenido según el contexto.
La empresa cuenta con miles de voces de IA predefinidas para que los usuarios elijan o creen sus propias versiones. En su sitio web, ElevenLabs afirma que las voces de políticos creadas con tecnología Deepfake pueden usarse en ciertas situaciones, como sátiras, caricaturas, etc.
"Nos esforzamos por evitar el uso indebido de nuestras herramientas de IA de audio y nos tomamos el abuso muy en serio", declaró la compañía en un comunicado. La compañía suspendió la cuenta poco después de descubrir que alguien había creado un fragmento de voz falso del presidente Joe Biden relacionado con las elecciones.
Kathleen Carley, profesora de informática en la Universidad Carnegie Mellon, afirmó que el caso es solo la punta del iceberg en lo que respecta a la supresión del voto. "Es solo un presagio de lo que podría suceder", enfatizó Carley.
[anuncio_2]
Enlace de origen
![[Foto] El presidente de la Asamblea Nacional, Tran Thanh Man, recibe al presidente de la Asociación de Amistad Marruecos-Vietnam.](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/7/26/b5fb486562044db9a5e95efb6dc6a263)
Kommentar (0)