Existe preocupación de que el chatbot Grok pueda alimentar la propagación de desinformación en internet.

El chatbot Grok de Elon Musk ha comenzado a permitir a los usuarios crear imágenes de IA a partir de texto y publicarlas en X, incluyendo imágenes falsas de políticos como el expresidente de EE. UU. Donald Trump, la vicepresidenta de EE. UU. Kamala Harris...

A diferencia de otras herramientas de captura de imágenes con IA de uso generalizado, Grok, de Musk, parece tener menos regulaciones. Por ejemplo, en las pruebas de CNN , Grok generó fácilmente imágenes falsas de políticos, engañando a los votantes.

Imagen de Elon Musk creada por el chatbot Grok. (Fuente: CNN)

Algunos usuarios de X incluso publicaron imágenes creadas por Grok, que mostraban a celebridades consumiendo drogas, personajes de dibujos animados cometiendo asesinatos y mujeres en bikini sexualizadas.

Según CNN , Grok aviva aún más la preocupación de que la IA pueda impulsar una oleada de desinformación en internet, especialmente ante la proximidad de las elecciones presidenciales estadounidenses.

Legisladores, grupos de activistas sociales y líderes tecnológicos han dado la voz de alarma, advirtiendo que el mal uso de dichas herramientas podría causar confusión y caos entre los votantes.

Muchas de las principales empresas de IA del mundo han implementado políticas para evitar que las herramientas de generación de imágenes basadas en IA se utilicen para crear desinformación política, aunque los investigadores han descubierto que, en ocasiones, los usuarios aún encuentran maneras de eludir estas políticas.

Varias empresas, como OpenAI, Meta y Microsoft, utilizan tecnología o etiquetas para ayudar a los usuarios a identificar las imágenes creadas con su inteligencia artificial.

Las plataformas de redes sociales, incluidas YouTube, TikTok, Instagram y Facebook, también etiquetan el contenido generado por IA en los feeds de los usuarios, utilizando tecnología para detectarlo ellas mismas o solicitando a los usuarios que lo identifiquen cuando publican dicho contenido.

El 16 de agosto, la IA pareció imponer algunas restricciones a Grok. Ahora, la herramienta se niega a crear imágenes de candidatos políticos o personajes de dibujos animados populares realizando actos violentos.

Fuente: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html