Una investigación de Google DeepMind dice que crear imágenes, videos y audio que suplantan a humanos es casi dos veces más común que crear información errónea utilizando herramientas como chatbots de IA.
El análisis encontró que el objetivo más común de los actores que abusan de la IA sintética era moldear o influir en la opinión pública, lo que representa el 27% de los usos, lo que genera preocupaciones sobre cómo los deepfakes podrían influir en las elecciones en todo el mundo este año.
Una obra de arte falsa del primer ministro británico, Rishi Sunak, ha aparecido en TikTok e Instagram antes de las elecciones generales. Foto: AFP
En los últimos meses, han aparecido deepfakes del primer ministro británico, Rishi Sunak, y de otros líderes mundiales en TikTok, X e Instagram. Los votantes británicos acudirán a las urnas la próxima semana para celebrar elecciones generales.
Existe la preocupación de que, a pesar de los esfuerzos de las redes sociales por etiquetar o eliminar dicho contenido, el público podría no reconocerlo como falso y que su difusión podría influir en los votantes.
Ardi Janjeva, investigadora asociada del Instituto Alan Turing, calificó de "particularmente relevantes" los hallazgos del artículo: que la información pública generada por IA puede "distorsionar nuestra comprensión compartida de la realidad sociopolítica ".
“Aunque no estamos seguros del impacto de las deepfakes en el comportamiento electoral, esta distorsión puede ser difícil de detectar a corto plazo y plantea riesgos a largo plazo para la democracia”, añadió Janjeva.
“Ha habido mucha preocupación en torno a los ciberataques bastante sofisticados que se están creando utilizando estas herramientas”, dijo la investigadora Nahema Marchal, autora principal del estudio en Google DeepMind.
Investigadores de Google DeepMind y Jigsaw analizaron alrededor de 200 casos de uso indebido de IA entre enero de 2023 y marzo de 2024, tomados de las redes sociales X y Reddit, así como de blogs en línea e informes de medios de comunicación sobre uso indebido.
La segunda motivación más común detrás del abuso es la monetización, que incluye la creación de fotos de desnudos de personas reales o el uso de IA para generar contenido diverso, como noticias falsas. La mayoría de los casos implican herramientas accesibles que requieren una experiencia técnica mínima, lo que significa que muchos actores maliciosos pueden abusar de la IA de forma creativa.
Ngoc Anh (según el FT)
[anuncio_2]
Fuente: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
Kommentar (0)