(Dan Tri) - En el mercado vietnamita, las herramientas de inteligencia artificial (IA) están en constante desarrollo, lo que genera muchos problemas emergentes como la seguridad o los derechos de autor.
El Sr. Nguyen Viet Hung, director ejecutivo y fundador de Color Me, centro de capacitación en diseño gráfico, compartió con el periodista Dan Tri su perspectiva sobre el mercado de inteligencia artificial (IA) en Vietnam, sus aspectos útiles y los riesgos potenciales que puede causar a los usuarios.
Señor, la IA ha estado presente en Vietnam durante mucho tiempo, pero en los últimos dos años las herramientas de IA han experimentado un auge exponencial. ¿Cuáles son sus características destacadas en el mercado vietnamita?
A finales de 2021, la ola de IA en Vietnam comenzó a despegar y, hasta ahora, lo que más nos ha impresionado proviene de la IA generativa, también conocida como IA generativa. Esta es una herramienta de IA capaz de crear diversos tipos de contenido.
Esta perspectiva es muy simple: por muchos datos que tengamos, la IA generará otros tantos datos nuevos.
En Vietnam, estamos muy impresionados con la herramienta ChatGPT con la capacidad de crear párrafos de texto, Mid Journey usa IA para crear imágenes o Runway se usa para crear videos .
Más recientemente, contamos con Copilot, que puede generar líneas de código en programación. Por lo tanto, cualquier tipo de datos que tengamos puede ser generado por IA.
¿Por qué la IA generativa juega un papel tan importante en esta ola de IA, señor?
- En mi opinión, es cuando el mundo se desarrolla hasta el umbral de la automatización, que se está volviendo cada vez más popular en todos los campos o es el problema que la gente encuentra todos los días en el estudio y el trabajo, que es la creatividad.
Esto significa que debemos descubrir cómo crear nuevas obras, nuevas imágenes, nuevas películas o nuevo software. Con el poder actual de la IA, la capacidad de los humanos para trabajar en la industria creativa es cada vez mayor y prácticamente ilimitada.
Creo que, ya sean estudiantes o trabajadores de oficina, todos tenemos que ser creativos en todos los diferentes elementos del trabajo, a veces simplemente haciendo un informe, un resumen, un plan de campaña de desarrollo o una gran idea... Para hacer algo, todos tenemos que partir de diferentes ideas creativas que los usuarios necesitan iniciar.
Si bien la IA generativa sigue cambiando y evolucionando constantemente, el impacto de mayor alcance que podemos esperar ver en los próximos meses es que esta tecnología inteligente ayudará a los usuarios a aumentar su productividad en el trabajo y en sus estudios.
Para crear una herramienta de IA tenemos que utilizar una gran cantidad de datos, esto ha dado lugar a un tema muy controvertido que son los derechos de autor de los datos, ¿puedes compartir tu perspectiva sobre esta realidad?
- Para ser más precisos, la IA es muy amplia y las herramientas que vemos y con las que entramos en contacto recientemente provienen en gran medida del aprendizaje profundo o de la tecnología de redes neuronales (una serie de algoritmos diseñados para encontrar relaciones básicas en conjuntos de datos).
Todas estas tecnologías requieren entrenamiento con una gran cantidad de datos. Desde el inicio de ChatGPT, la comunidad se ha preguntado mucho sobre el origen de los datos necesarios para crear una herramienta de IA tan inteligente.
O como Mid Journey, crea imágenes muy hermosas. Debe haber tenido un recurso de imágenes previo, utilizado para entrenar la inteligencia artificial a fondo. Este es un grave problema de derechos de autor.
Por ejemplo, si integramos artículos y libros en herramientas de IA, ¿obtendrán algo los autores de ese contenido?
Entiendo que en los países europeos se está produciendo una transición gradual hacia los derechos de autor y que, en aproximadamente un año, todos los modelos de IA generativa deberán divulgar el contenido que las empresas tecnológicas utilizan para entrenarlos. Solo entonces podremos respetarnos mutuamente en materia de derechos de autor.
Todos los datos que los ingenieros utilizan para entrenar a la IA deben contar con el consentimiento de todos los autores, o el contenido debe ponerse a disposición del público de forma gratuita según los términos actuales.
Algunos expertos internacionales afirman que la IA se encuentra actualmente en una zona gris, lo que significa que aún no podemos determinar qué es completamente correcto y qué es completamente incorrecto. El tema de los derechos de autor sigue siendo muy complejo.
Por lo tanto, debemos ser cautelosos al utilizar y publicar contenido generado por IA.
Respecto de las historias, productos o contenidos generados por IA, ¿crees que esos productos deberían tener derechos de autor?
- El contenido generado total o parcialmente por IA, las cuestiones de derechos de autor están siendo abordadas por muchos países mediante la creación de marcos políticos e institucionales para brindar legalidad al contenido relacionado con la IA.
También hay muchos países que lo están condenando y están considerando discutir para establecer un sistema legal que permita qué tipo de contenido de IA puede comercializarse y qué tipo de contenido solo puede ser utilizado por los usuarios para fines personales.
Esto plantea un problema: la creación de contenido con IA siempre debe dividirse en diversas categorías de derechos de autor. De hecho, el contenido generado por IA todavía se utiliza para generar ingresos, como en YouTube y TikTok.
¿Puedes compartir algunos ejemplos relacionados con este tema?
Si buscas en YouTube la palabra clave "audiolibro", los resultados mostrarán muchos audiolibros (libros hablados) sin autor. Son libros creados íntegramente por IA.
De esta manera, los usuarios crearán el contenido de un libro íntegramente con IA y luego lo convertirán a una voz artificial. Esta es la tecnología de texto a voz.
Finalmente, integrarán el producto en el vídeo para que el espectador sienta que está disfrutando de una versión en audio de un libro real.
Solo en la plataforma de Youtube, podemos ver que hay muchos libros que son completamente irreales, están completamente generados por IA.
Otro problema igualmente preocupante es que hay muchos sitios web y blogs que producen contenido casi en su totalidad utilizando IA.
Algunos estudios han demostrado que si abusamos de la IA para generar nuevos datos y los utilizamos para entrenar otra herramienta de IA, la inteligencia artificial colapsará. Esto hará que el contenido creado por la IA pierda su significado y las personas sentirán que la IA ya no es útil ni creativa.
Creo que la unión mundial para establecer un régimen de derechos de autor exhaustivo nos ayudará a tener un futuro más saludable en el trabajo y la vida con IA.
Los sitios web creados por IA para estafar a los usuarios ya no son extraños, e incluso han aparecido en el mercado vietnamita. ¿Podrías compartir las señales para reconocer este contenido fraudulento?
Recientemente, se han producido muchas estafas y chantajes relacionados con la IA. La más popular es la tecnología Deepfake: el rostro de la víctima se inserta en contenido inapropiado o chantajista. El contenido Deepfake ha sido prohibido en muchos países y no apoyan en absoluto esta tecnología, independientemente de su uso.
Cuando se crea una herramienta de IA, siempre habrá tecnologías para contrarrestarla. Por ejemplo, si existe tecnología Deepfake, también habrá tecnologías para detectar qué contenido es Deepfake.
O si escribimos artículos completamente mediante IA como en ChatGPT, también habrá tecnología para verificar si se trata de un artículo escrito por un humano o por la herramienta mencionada anteriormente.
Por lo tanto, tenemos que equiparnos con estas tecnologías de reconocimiento, y los usuarios también necesitan complementar sus habilidades para identificar qué tipo de contenido es generado por IA y qué contenido es creado por humanos.
En el mercado vietnamita, cada vez más teléfonos integran IA para apoyar a los usuarios. Entonces, ¿es segura la privacidad humana al usar funciones de IA en estos dispositivos?
Creo que el problema de seguridad en los teléfonos con IA integrada es extremadamente grave. Recientemente, Apple también ha integrado Apple Intelligent (IA de Apple) en la serie iPhone 16.
Desde el lanzamiento de esta nueva generación de teléfonos, la compañía tuvo que ser transparente sobre todo el contenido y los sistemas de servidor utilizados para responder a los comandos de los usuarios.
Por tanto, todos estos servidores no son accesibles para nadie y todo el sistema de creación de contenidos de Apple Intelligent puede ser auditado (rigurosamente) por un tercero.
Parece sencillo, pero tareas cotidianas como preguntarle a la IA de Apple sobre el tiempo o pedirle que cree un plan son información personal y, si cae en malas manos, podrían averiguar tu ubicación o saber qué haces. Esto es realmente peligroso.
Como resultado, toda la IA generativa está pasando a estar ubicada en servidores separados y a tener que demostrar que no puede ser pirateada ni alterada por terceros.
Otro problema es que, al usar IA en productos tecnológicos, cada IA creada debe usar una computadora para calcular la respuesta. Si la computadora está integrada en el teléfono del usuario, será mucho más segura.
Si la computadora que utiliza la IA está ubicada en otro lugar, definitivamente afectará la seguridad de los datos, por lo que debemos averiguar si el motor de IA se está ejecutando en su dispositivo o desde otro servidor.
En Color Me, sabemos que han aplicado la IA a muchas tareas. ¿Podrían compartir los beneficios que aporta a la empresa?
- Hemos estado investigando mucho sobre los aspectos de inteligencia artificial en el trabajo durante los últimos dos años, para comprender qué es bueno y qué no es bueno para los estudiantes que estudian campos creativos.
Tengo algunos comentarios, en primer lugar: incluso quienes recién comienzan a aprender sobre diseño y creatividad, no deberían abusar ni usar la IA generativa demasiado pronto. Cuando tengan suficiente experiencia y habilidades, deberían considerar aprender sobre herramientas de apoyo a la IA.
En cuanto al aspecto del sistema de RRHH, en una encuesta reciente me di cuenta de que casi todos los empleados de la empresa utilizan IA semanalmente, incluso diariamente, para fines laborales.
Podría generar informes, enviar correos electrónicos o extraer ideas de la IA. Creo que tener la IA como asistente virtual para ayudarte con tu trabajo te ayudaría a ser más productivo.
Los equipos de programación de la empresa admiten que la IA ha ayudado a triplicar su productividad.
¿Aplicar IA a la programación tiene alguna desventaja, señor?
- Una cosa que tenemos que admitir, la IA será muy perjudicial para cualquiera que no tenga suficiente experiencia en el campo y la use demasiado pronto, crearán productos que no serán de buena calidad.
Por ejemplo, si un programador usa IA para crear código que él mismo no entiende, ese empleado luego no podrá encontrar la ubicación para corregir el error o cambiar el nombre de la aplicación.
O para aquellos que realizan trabajos relacionados con informes, cuando usan IA para generar gráficos sin entender si el gráfico es correcto o no, y no pueden probarlo, es un arma de doble filo extremadamente aterradora.
Respecto a la historia del uso de la IA para la creatividad, ¿crees que el abuso de estas herramientas reducirá el pensamiento humano?
Creo que usar IA para referenciar ideas nos ayuda a pensar en más aspectos y perspectivas que los usuarios aún no han comprendido.
Pero a veces también nos da pereza crear. Es necesario comprender que la naturaleza de la IA es que recopila todas las ideas que han existido en el mundo desde el pasado hasta el presente y, cuando los usuarios lo solicitan, devuelve los resultados.
Entonces, si dejamos de ser creativos, si dejamos de generar nuevas ideas, tarde o temprano la IA perderá su creatividad, no habrá originalidad ni se crearán nuevas funciones.
Esto es algo que preocupa bastante a cualquier empresa, especialmente a aquellas relacionadas con la creatividad.
En el ámbito de los medios de comunicación en general, o del periodismo en particular, existen periódicos de todo el mundo que han implementado tecnología para producir artículos con IA. En el futuro, ¿podrá la IA reemplazar a los humanos en algunos campos?
- Las preocupaciones acerca de que la IA reemplace a los humanos en algunos campos y algunas tecnologías, creo, son parcialmente ciertas.
Nosotros mismos, al probar la IA generativa, hemos obtenido resultados bastante sorprendentes y convincentes. Claro que aún existen resultados falsos que carecen de evidencia para que los usuarios los crean.
La pregunta es: ¿seremos reemplazados? Esto se ha demostrado a lo largo de la historia, en cada revolución tecnológica. Cuando se crea una tecnología disruptiva, inevitablemente se perderán empleos, pero rápidamente se crearán nuevos.
Especialmente para aquellos que aplican esa tecnología para implementarla en sus negocios o construir nuevas ideas de negocio.
En un futuro en el que los trabajos repetitivos y poco creativos serán reemplazados gradualmente por IA y máquinas, también veremos rápidamente a muchos jóvenes con experiencia y la capacidad de trabajar con IA creará rápidamente muchos empleos nuevos.
Como dijo Sam Altman, director ejecutivo de OpenAI, creo que los jóvenes pronto se convertirán en multimillonarios hechos a sí mismos, prácticamente sin empleados. Pueden construir un ejército de recursos humanos compuesto íntegramente por IA; pueden convertir sus ideas de negocio en realidad.
¿Eso es algo que observaremos, miraremos y esperaremos para ver si sucede en el futuro o no?
¡Gracias por tomarte el tiempo para charlar!
Contenido: Nam Doan, Khanh Vi
Diseño: Thuy Tien
Dantri.com.vn
Fuente: https://dantri.com.vn/suc-manh-so/con-bao-ai-tai-viet-nam-va-nhung-cong-viec-dang-bi-thay-the-20241002004323299.htm
Kommentar (0)