Controlando el lado oscuro de la inteligencia artificial

P: ¿Qué es un modelo de inteligencia artificial (IA) y qué tipos de modelos son populares hoy en día?

Respuesta: Para funcionar, la IA necesita un "cerebro" llamado modelo de IA: un sistema de modelos matemáticos y algoritmos entrenados con enormes cantidades de datos. Es este modelo el que permite a la máquina aprender reglas, analizar información, hacer predicciones o crear nuevo contenido...

Según la entrada y la salida, los modelos de IA actuales se pueden dividir en varios grupos. El grupo más popular actualmente es el de texto a texto, en el que los usuarios introducen texto y la IA genera el texto de respuesta apropiado (chatbots como ChatGPT, Gemini, Claude, etc.). El grupo de texto a imagen tiene como entrada la descripción del texto y como salida la imagen generada por la IA (Midjourney, DALL·E, etc.).

El siguiente es el grupo de texto a audio, que convierte el texto en voz o efectos de sonido; el grupo de imagen a texto, que utiliza imágenes como entrada para que la IA genere descripciones o análisis; el grupo de imagen a imagen convierte las imágenes en otras imágenes, a menudo utilizadas para tareas como restauración, conversión de estilo; el grupo de imagen a video , la IA creará videos de movimiento simulado basados en imágenes fijas; el grupo de video a texto permite el análisis o resumen del contenido de los videos, aplicado en sistemas de extracción de información, anotación de video o análisis de datos de vigilancia.

Un grupo particularmente potente hoy en día es el de texto a video, que convierte texto en video. Con este tipo de modelo, los usuarios simplemente introducen una breve descripción y el sistema de IA genera un video que se ajusta al contexto, la acción, la iluminación e incluso el ángulo de la cámara.

Herramientas destacadas como Pika Labs, Sora (OpenAI) y, recientemente, la comunidad tecnológica global, incluyendo a Vietnam, han prestado especial atención a Veo 3, una herramienta desarrollada por Google DeepMind. Los clips creados por Veo 3 son casi absolutamente realistas, acercándose al nivel de cineastas profesionales, lo que ha generado admiración entre el público.

Crear videos se ha vuelto tan fácil como escribir un párrafo, lo que ha dado lugar a la aparición de una gran cantidad de contenido basura creado solo para atraer la atención, incluyendo videos sensacionalistas, con lenguaje vulgar o con información falsa. Aún más peligroso, herramientas como Veo 3, aunque no son herramientas especializadas en deepfake, pueden explotarse para crear imágenes o voces falsas sofisticadas de personas reales, engañando fácilmente a los espectadores, dañando la reputación personal, la seguridad de la información y el orden social, y aumentando el riesgo de fraude en el ciberespacio. (Deepfake es una tecnología que aplica IA para crear imágenes, videos y sonidos falsos que parecen tan reales que los usuarios tienen dificultades para distinguirlos).

Lo que es más preocupante es que se crea y difunde una gran cantidad de contenido distorsionado y falso a una velocidad vertiginosa, penetrando en todas las redes sociales sin verificación ni control. Los sujetos más accesibles y vulnerables son los niños, niñas y adolescentes, quienes a menudo carecen de la capacidad para distinguir entre la verdad y la falsedad, por lo que son muy receptivos al contenido tóxico, lo que deja consecuencias a largo plazo en la percepción y el comportamiento.

P: Dado el rápido desarrollo de herramientas como Veo 3, ¿cuál es la solución para limitar eficazmente el uso de la IA para fines indebidos?

Respuesta: Se observa que el sistema administrativo y legal actual sigue siendo más lento que el ritmo de desarrollo de la tecnología de IA, lo que genera numerosas lagunas legales y riesgos impredecibles. Esto requiere el establecimiento temprano de un marco de gestión proactivo, flexible y sincronizado, y al mismo tiempo, la sensibilización pública sobre el uso responsable de la IA.

El desarrollo responsable de la IA depende principalmente de nosotros: quienes la creamos, gestionamos y utilizamos. Los conceptos de innovación y gestión no deben verse como dos polos opuestos, sino como las dos caras de un proceso que se ha mencionado en numerosas ocasiones. Por lo tanto, por un lado, debemos estar abiertos a impulsar el desarrollo tecnológico y, por otro, establecer proactivamente principios éticos y mecanismos legales adecuados al nuevo contexto.

En Vietnam, además de seguir mejorando las instituciones, recientemente se han mencionado una serie de soluciones, como la propuesta del Comité de Ética de IA de la Asociación de Servicios de Software y Tecnología de la Información de Vietnam (VINASA) de construir un Código de Conducta Ética de IA, para establecer límites de comportamiento tanto para desarrolladores como para usuarios.

Junto con esto está la idea de formar un conjunto de lenguaje de datos abiertos estándar nacional, con el objetivo de ayudar a los desarrolladores de IA nacionales y extranjeros a tener una base para cumplir con los factores políticos , el contexto cultural, legal e histórico de Vietnam.

Proponer la clasificación y el etiquetado de productos de IA también es una idea viable. Las etiquetas de IA deberían ser obligatorias y podrían categorizarse según diferentes niveles de intervención: desde la edición parcial hasta la producción completa, o por contenido, como ya se hace con los videojuegos y las películas.

Junto con esto, se establece un mecanismo claro de auditoría posterior que asigne responsabilidades al final. Desde una perspectiva social, la alfabetización digital para toda la población, especialmente niños y adolescentes, es esencial; ayudar a desarrollar la capacidad de identificar contenido dañino y aplicar normas de verificación de información son soluciones fundamentales en una sociedad cada vez más afectada por el contenido virtual.

Quang Huy

Fuente: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html