Preocupaciones sobre estafas derivadas de la capacidad de ChatGPT para crear imágenes realistas.

ChatGPT "dibuja como una fotografía"

El 26 de marzo, las comunidades de usuarios de IA, tanto a nivel global como vietnamita, se llenaron de entusiasmo cuando OpenAI lanzó oficialmente Imágenes en ChatGPT, una herramienta centrada en la creación de imágenes, para los usuarios de su modelo inteligente. Anteriormente, ChatGPT también ofrecía funciones de creación de imágenes, pero estas eran limitadas y dependían de otro conocido modelo de texto a imagen llamado DALL-E.

La capacidad de la herramienta para transformar texto en dibujos y realizar fusiones de imágenes con calidad de Photoshop llamó rápidamente la atención. Muchos usuarios calificaron la calidad de la imagen resultante como "asombrosa", y la mayoría la calificó como "superior" a otros modelos de IA populares del mercado.

ChatGPT crea imágenes realistas de tazas de café con solo un comando simple.

Según Gabriel Goh, jefe de investigación de OpenAI, la mejora significativa en la capacidad de generación de imágenes de ChatGPT con el modelo GPT-4o reside en la "vinculación", un término que se refiere al grado en que el generador de imágenes de IA mantiene vínculos entre atributos y objetos. Goh afirma que GPT-4o puede vincular con precisión los atributos de entre 15 y 20 objetos diferentes sin errores, lo que mejora significativamente la precisión y la fiabilidad del contenido generado.

Las imágenes de ChatGPT no solo destacan en la creación de imágenes, sino que también solucionan una debilidad crítica de otras herramientas de creación de imágenes con IA: la representación precisa del texto dentro de las imágenes. De hecho, muchas imágenes con texto se representan con precisión, lo que dificulta cada vez más distinguir entre imágenes reales y falsas.

La desventaja de la herramienta es el tiempo relativamente largo que tarda en crear imágenes, pero se considera razonable, ya que el retraso se debe a que las imágenes de alta calidad con detalles precisos y que coinciden con la descripción del usuario siempre requieren paciencia. El equipo de investigación afirmó que este problema se solucionará en el futuro.

Se han planteado muchas preocupaciones sobre la posibilidad de manipulación de imágenes.

Más allá del disfrute inicial que ChatGPT y OpenAI ofrecen a los usuarios, las preocupaciones sobre la seguridad de la información, la privacidad y el riesgo de explotación han vuelto a cobrar protagonismo. "Pronto, las imágenes que ves en línea podrían no ser necesariamente reales", expresó un usuario de Facebook en Vietnam, ya que podría solicitar a ChatGPT que creara imágenes completamente falsas con la misma realismo que las fotografías; por ejemplo, una foto del actor y exluchador Dwayne Johnson (The Rock) anunciando una marca de chicles, o un gato calicó sentado en una estufa que parece exactamente una fotografía.

Con comandos detallados proporcionados, los usuarios pueden crear resultados sorprendentes sin necesidad de conocimientos profundos de las herramientas tradicionales de edición de fotografías.

De hecho, muchas personas incluso han probado la función de "desvestirse" de la nueva herramienta. TN ( Hanói ) comentó que usó la foto de una modelo de internet para solicitar a ChatGPT que se cambiara de ropa según lo solicitado, y casi todas las solicitudes se cumplieron con gran precisión. "Sin embargo, hubo algunas ocasiones en las que las solicitudes fueron rechazadas, principalmente debido a infracciones de la política del sistema respecto a la creación de imágenes con derechos de autor o contenido excesivamente sugerente", compartió TN.

En pruebas realizadas por el periódico Thanh Nien , ChatGPT se negó a crear imágenes relacionadas con personajes famosos o protegidos por derechos de autor, tanto del mundo real como de películas y cómics. "No puedo crear la imagen solicitada porque la imagen de referencia que enviaste muestra claramente a Doctor Strange, un personaje protegido por derechos de autor de Marvel, y esto infringe nuestra política de contenido actual", respondió el sistema cuando se le pidió que creara una imagen de Doctor Strange sentado... tomando té helado en Vietnam.

Jackie Shannon, directora de producto multimodal en ChatGPT, afirma que las imágenes en ChatGPT ofrecen una protección robusta contra contenido deepfake, pornográfico o fraudulento. Cabe destacar que las imágenes generadas incorporan metadatos estándar de C2PA para identificarlas como productos de IA, pero requieren una herramienta independiente para su verificación.

Sin embargo, muchas personas aún logran burlar las reglas y usan imágenes de famosos con fines de entretenimiento. Por ejemplo, una foto del director ejecutivo Tim Cook sosteniendo un teléfono Samsung en lugar de un iPhone, una imagen del actor Robert Downey Jr. masticando un caramelo vegetal, o una serie de pinturas de Cristiano Ronaldo y Lionel Messi compitiendo por un balón en un pequeño callejón de Vietnam frente a muchos espectadores...

Fuente: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm