Miedo al fraude con la capacidad de creación de fotografías realistas de ChatGPT

ChatGPT "dibuja como una foto"

El 26 de marzo, la comunidad de usuarios de IA (inteligencia artificial) a nivel mundial , incluyendo a Vietnam, se llenó de entusiasmo cuando OpenAI lanzó oficialmente Imágenes en ChatGPT, centrándose en las capacidades de creación de imágenes para los usuarios del modelo inteligente de la compañía. Anteriormente, ChatGPT también podía crear imágenes, pero era limitado y debía pasar por otro conocido modelo de texto a imagen: DALL-E.

La capacidad de la herramienta para convertir texto en dibujos y combinar imágenes como en Photoshop atrajo rápidamente la atención. Muchos comentaron que la calidad de la imagen resultante era "increíble" y la mayoría la calificó como "superior" en comparación con los modelos de IA más populares del mercado.

ChatGPT crea tazas de café realistas con solo un simple comando

Según Gabriel Goh, líder del equipo de investigación de OpenAI, la mejora significativa en la capacidad de generación de imágenes de ChatGPT con el modelo GPT-4o reside en la "vinculación", un término que describe el grado en que el generador de imágenes de IA mantiene la conexión entre atributos y objetos. El Sr. Goh afirmó que GPT-4o puede vincular con precisión los atributos de entre 15 y 20 objetos diferentes sin generar confusión, lo que mejora significativamente la precisión y la fiabilidad del contenido generado.

Imágenes en ChatGPT no solo destaca por su capacidad de creación de imágenes, sino que también soluciona la debilidad principal de otras herramientas de IA para la generación de imágenes: mostrar texto dentro de la imagen. De hecho, muchas imágenes con texto se muestran con precisión, lo que dificulta aún más distinguir entre imágenes falsas y reales.

La desventaja de esta herramienta es que tarda mucho en generar imágenes, pero se considera razonable, ya que el retraso se debe a que las imágenes de buena calidad, la precisión de los detalles y la coincidencia con la descripción del usuario siempre requieren paciencia. El equipo de investigación afirmó que este problema de retraso se solucionará en el futuro.

Muchas preocupaciones sobre la capacidad de combinar fotos

Además de la experiencia inicial divertida que ChatGPT y OpenAI ofrecen a los usuarios, la seguridad de la información, la privacidad y el riesgo de explotación vuelven a cobrar protagonismo. "En un futuro próximo, las imágenes que veas en línea podrían no ser necesariamente reales", expresó un usuario de Facebook en Vietnam, preocupado por poder pedirle a ChatGPT que creara imágenes completamente irreales que parecieran tan reales como fotos; por ejemplo, una foto del actor y exluchador Dwayne Johnson (The Rock) anunciando una marca de chicles, o una foto de un gato calicó sentado en la estufa que parece exactamente una foto.

Con comandos detallados proporcionados, los usuarios pueden crear resultados sorprendentes sin necesidad de conocimientos profundos sobre el uso de herramientas de edición de fotografías tradicionales.

Mucha gente incluso ha probado la función de "desnudar" de la nueva herramienta. TN ( Hanói ) comentó que usó la foto de una modelo tomada de internet para pedirle a ChatGPT que se cambiara de ropa según lo solicitado, y casi todos los pedidos se cumplieron con gran precisión. "Sin embargo, todavía hubo algunos rechazos, principalmente debido a infracciones de la política del sistema sobre la creación de imágenes con derechos de autor o contenido excesivamente sexual", compartió TN.

En las pruebas de Thanh Nien , ChatGPT se negó a crear imágenes relacionadas con personajes famosos o protegidos por derechos de autor, tanto del mundo real como de películas e historias. "No puedo crear la imagen solicitada porque la imagen de referencia que enviaste muestra claramente al personaje Doctor Strange, un personaje protegido por derechos de autor de Marvel, lo cual infringe la política de contenido vigente", respondió el sistema cuando se le pidió que creara una imagen del Doctor Strange sentado... tomando té helado en Vietnam.

Jackie Shannon, directora de productos multimodales de ChatGPT, confirmó que las imágenes de ChatGPT cuentan con una sólida protección contra contenido deepfake, pornográfico o fraudulento. Cabe destacar que las imágenes generadas integrarán metadatos del estándar C2PA para identificarlas como productos de IA, pero requieren herramientas independientes para su verificación.

Sin embargo, todavía hay mucha gente que se salta la ley con éxito y utiliza imágenes de famosos con fines de entretenimiento. Por ejemplo, la imagen del director ejecutivo Tim Cook sosteniendo un teléfono Samsung en lugar de un iPhone, la imagen del actor Robert Downey Jr. masticando un caramelo vegetal, o la imagen de Cristiano Ronaldo jugando a la pelota con Lionel Messi en un pequeño callejón de Vietnam frente a mucha gente...

Fuente: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm