Preocupación de que el chatbot Grok esté provocando un auge de desinformación en Internet

El chatbot Grok de Elon Musk ha comenzado a permitir a los usuarios crear imágenes de IA a partir de texto y publicarlas en X, incluidas imágenes falsas de políticos como el expresidente estadounidense Donald Trump, la vicepresidenta estadounidense Kamala Harris...

A diferencia de otras herramientas convencionales de IA para tomar fotografías, Grok, de Musk, parece estar menos regulado. En la prueba de CNN , por ejemplo, Grok creó fácilmente imágenes falsas de políticos, engañando a los votantes.

Imagen de Elon Musk creada por el chatbox Grok. (Fuente: CNN)

Algunos usuarios de X también publicaron imágenes creadas por Grok, que muestran a celebridades fumando drogas, personajes de dibujos animados matando personas e imágenes sexualizadas de mujeres en bikini.

Según CNN , Grok aumenta aún más la preocupación de que la IA podría alimentar una explosión de desinformación en Internet, especialmente a medida que se acercan las elecciones presidenciales de Estados Unidos.

Legisladores, grupos activistas y líderes tecnológicos han hecho sonar la alarma de que el mal uso de dichas herramientas podría causar confusión y caos entre los votantes.

Muchas de las principales empresas de inteligencia artificial del mundo han implementado políticas para evitar que las herramientas de generación de imágenes basadas en inteligencia artificial se utilicen para crear desinformación política, aunque los investigadores han descubierto que a veces los usuarios encuentran formas de eludir las reglas.

Varias empresas como OpenAI, Meta y Microsoft utilizan tecnología o etiquetas para ayudar a los espectadores a saber qué imágenes son generadas por su IA.

Las redes sociales, como YouTube, TikTok, Instagram y Facebook, también etiquetan el contenido generado por IA en los feeds de los usuarios, utilizando tecnología para detectarlo por sí mismas o pidiendo a los usuarios que identifiquen cuándo lo publicaron.

El 16 de agosto, la IA pareció imponer algunas restricciones a Grok. La herramienta ahora se niega a generar imágenes de candidatos políticos o personajes famosos de dibujos animados que cometan actos de violencia.

Fuente: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html