Evitar que la IA cause consecuencias desafortunadas
Uno de los proyectos que dejó huella y ayudó a que el Dr. Nguyen Van Son fuera galardonado con el Premio Globo de Oro en Ciencia y Tecnología 2024 organizado por la Central Youth Union, es el proyecto de investigación CodeJIT que permite la detección temprana de cambios peligrosos (también conocidos como commits) que crean vulnerabilidades de seguridad en el proceso de desarrollo de software, ayudando a los desarrolladores a comprobar y corregir estos commits a tiempo cuando aún son nuevos y fáciles de seguir.
El Dr. Nguyen Van Son guía a los estudiantes en la investigación científica
FOTO: DUONG TRIEU
Los resultados experimentales demuestran que CodeJIT alcanza una alta precisión en la identificación de commits peligrosos, de hasta el 90 %, casi el doble que los métodos más avanzados que no se centran en el código fuente. Esta solución se puede aplicar ampliamente en proyectos de software para mejorar la seguridad desde la fase de desarrollo y es aplicable a organizaciones de desarrollo de software, especialmente a aquellas que operan en sectores importantes como la ciberseguridad, la sanidad o las finanzas, donde la detección temprana y precisa de vulnerabilidades de software es fundamental.
El Dr. Son afirmó que los resultados del proyecto CodeJIT han ayudado al equipo de investigación a abrir una nueva línea de investigación, con el objetivo de mejorar la calidad del software desarrollado con el apoyo de grandes modelos de lenguaje (como ChatGPT y DeepSeek). Esta línea de investigación abrirá las puertas de la inteligencia artificial (IA) al explotar el estado interno de los modelos de IA para considerar el pensamiento y la intuición, y evaluar la fiabilidad y seguridad del código fuente generado por grandes modelos de lenguaje.
Es imposible saber cómo piensan los humanos/programadores al escribir software, pero con la IA podemos ver cómo piensa, cómo funciona, si cumple con las expectativas humanas o no, si sus resultados son fiables o no... A partir de ahí, podemos detectar y prevenir errores en el software que la IA pueda crear durante su funcionamiento, antes de que tengan consecuencias desafortunadas en el futuro», afirmó el Dr. Son.
"Popularizando la IA"
Al hablar sobre su línea de investigación, el Dr. Son comentó que él y sus colegas investigan la IA automatizada con el objetivo de automatizar el desarrollo de soluciones basadas en ella. Esta plataforma automatizará el proceso, desde la recopilación y el procesamiento de datos, hasta la depuración de datos, la creación, la implementación, la operación y la explotación de modelos de IA. Esta plataforma puede actuar como un experto virtual, facilitando la creación de soluciones basadas en IA.
En particular, el Dr. Son afirmó que el proyecto tiene como objetivo general "popularizar la IA". "Queremos que el proyecto acerque los beneficios de la IA a más personas, especialmente a aquellas con pocos conocimientos previos, como las pymes y los particulares. Estas personas con capacidades de IA relativamente limitadas pueden aprovechar sus propios datos y experiencia para desarrollar soluciones basadas en IA. A partir de ahí, pueden simplificar su trabajo", afirmó.
Según el Dr. Son, un ideal que siempre lo ha guiado a lo largo de su trayectoria de investigación científica es el deseo de contribuir a la sociedad a través de la tecnología. "Creo que la ciencia y la tecnología no se limitan a números, teorías o artículos, sino que también pueden generar cambios positivos en la vida humana", expresó el doctor.
Gracias a sus contribuciones a la ciencia, el Dr. Son tiene una impresionante lista de logros con una patente nacional; 8 artículos científicos publicados en las más prestigiosas revistas científicas internacionales actualmente en la categoría Q1; 9 artículos publicados en conferencias científicas internacionales clasificadas A*.
Pasando la antorcha a la generación más joven
Al hablar de su trayectoria en el mundo de la ciencia y la tecnología, el Dr. Nguyen Van Son comentó que estudió en la Universidad Tecnológica (Universidad Nacional de Hanói ). Desde el segundo año, comenzó su investigación con el producto del Sistema de Apoyo para la Mejora de la Calidad de Documentos (DoiT). Este proyecto le permitió a él y a su equipo de investigación ganar el segundo premio del Premio al Talento de Vietnam 2017, además de ser ampliamente aplicado en el país.
El Dr. Son afirmó que este proyecto se está aplicando en muchas universidades para revisar tesis, disertaciones y trabajos de grado, prevenir el plagio y mejorar la calidad de los documentos. Este software también ha ayudado a decenas de miles de estudiantes a aplicarlo en sus proyectos de grado para evitar la duplicación y lograr la mejor calidad.
El éxito del proyecto creó la premisa, infundió confianza y motivó al Dr. Son a seguir una carrera en investigación científica. Tras graduarse, decidió cursar un doctorado en la Universidad de Texas (EE. UU.). Allí, su orientación científica tomó un nuevo rumbo: la investigación en IA e ingeniería de software. Al mismo tiempo, pronto decidió regresar a casa para contribuir.
Por lo tanto, en cuanto llegó a Estados Unidos, comenzó a colaborar rápidamente con científicos nacionales y estudiantes de posgrado vietnamitas en el extranjero para formar una red de científicos. Tras regresar a casa, desde 2022, él y su equipo han publicado más de 20 proyectos de investigación en prestigiosas revistas nacionales e internacionales.
El Dr. Son no sólo ha hecho muchas contribuciones a la ciencia, sino que como profesor universitario también inspira siempre la investigación científica en sus estudiantes.
Fuente: https://thanhnien.vn/tien-si-tre-thuc-day-ung-dung-ai-vao-doi-song-185250612201810469.htm
Kommentar (0)