Inteligencia Artificial: Debemos aumentar la seguridad en lugar de centrarnos únicamente en desarrollar inteligencia artificial más fuerte.

En lugar de centrarse únicamente en desarrollar una IA para volverse más fuerte, los influyentes expertos mundiales en IA advierten que los humanos necesitan pensar urgentemente en cómo vivir con la IA (una entidad más inteligente que ellos mismos) e impedir que tome el control de los humanos.

El panel de discusión “IA para la humanidad: ética y seguridad de la IA en la nueva era”, en el marco de la Semana de la Ciencia y la Tecnología VinFuture 2025, reúne a científicos , políticos e inventores para discutir el desarrollo responsable de una IA, hacia valores humanísticos.

Piense urgentemente en cómo vivir con la IA: una entidad más inteligente que usted

En el seminario, el profesor Toby Walsh, de la Universidad de Nueva Gales del Sur (Australia) y académico de la Asociación Americana de Computación, afirmó: «Creo firmemente que el uso responsable de la IA debería ser obligatorio. Hoy en día, existen muchos incentivos perversos, con enormes ganancias gracias a la IA, y la única manera de garantizar un comportamiento adecuado es aplicar regulaciones estrictas, de modo que los intereses públicos siempre se equilibren con los intereses comerciales».

Citó un ejemplo típico de decisiones importantes, como la adjudicación y la sentencia en Estados Unidos, donde se utilizó un sistema de inteligencia artificial para hacer recomendaciones sobre la pena de prisión y la probabilidad de reincidencia de una persona. Desafortunadamente, este sistema se entrenó con datos históricos y, sin querer, reflejó prejuicios raciales del pasado, lo que condujo a la discriminación contra las personas negras.

Profesor Toby Walsh, Universidad de Nueva Gales del Sur, Australia, miembro de la American Computer Society.

Por lo tanto, las empresas que implementan y operan sistemas de IA deben hacerse responsables de las consecuencias que estas “máquinas” causan.

El profesor Geoffrey Hinton, ganador del premio principal de VF 2024, está preocupado por la mejora gradual de la IA en el diseño de virus peligrosos, ciberataques y la creación de vídeos falsos para interrumpir elecciones. En los próximos 20 años, la IA será más inteligente que nosotros y no sabremos cómo evitar que nos arrebate el control.

Por ello, el profesor enfatizó: «Necesitamos reflexionar urgentemente sobre cómo convivir con entidades más inteligentes que nosotros. Esta es una situación que la humanidad nunca antes ha enfrentado, es nueva y necesitamos realizar un gran esfuerzo de investigación antes de que suceda».

Es necesario mejorar la cooperación internacional para limitar los riesgos de la IA

Compartiendo esta preocupación, el profesor Yoshua Bengio, ganador del premio principal de VinFuture 2024, afirmó que los modelos de IA, sus capacidades y niveles de autonomía siguen desarrollándose a un ritmo rápido y constante. Si esta tendencia continúa, los sistemas de IA autónomos podrían superar a los humanos en la mayoría de las tareas cognitivas en tan solo 5 a 10 años.

Este sería un punto de inflexión histórico que podría mejorar drásticamente nuestra calidad de vida. Pero, si no se gestiona con cautela, también podría suponer enormes riesgos para la democracia, la estabilidad geopolítica e incluso el futuro de la humanidad.

Debemos mejorar la seguridad de la IA avanzada en lugar de centrarnos únicamente en fortalecerla. La seguridad y la confianza no son factores secundarios, sino esenciales en el proceso de desarrollo en beneficio de la humanidad. Necesitamos actuar juntos tanto a nivel político como científico», afirmó.

Profesor Yoshua Bengio - Ganador del premio principal de VinFuture 2024.

Este científico recomienda que, en términos de políticas, el mundo necesita cooperación internacional. En términos científicos, es necesario comprender mejor cómo diseñar una IA que sea superior en capacidad e inofensiva para los humanos, mantener la capacidad de controlar la IA para que se comporte de forma segura incluso cuando los humanos le piden que actúe mal, y construir barreras técnicas y sociales para garantizar que la IA sea coherente con las normas, intenciones, valores e intereses humanos.

El Dr. Vinton Grey Cert (Vicepresidente y Director de Evangelización en Internet de Google, ganador del Gran Premio VF 2022) coincide: «Necesitamos responsabilizar a la IA y establecer una cadena de custodia para saber qué hace y cuándo, especialmente cuando algo sale mal». Muchos de los principios que se aplican a los humanos también se aplicarán a los agentes de IA en el entorno digital.

Necesitamos establecer simultáneamente nuevas normas, donde el uso de identificación robusta, criptografía para proteger la información, la aplicación de mecanismos para garantizar la rendición de cuentas y la protección de las identidades contra el robo de identidades se convierta en una práctica habitual. Debemos usar la tecnología para limitar los riesgos desde el principio y tener claro que cualquier persona que sea considerada perjudicial para la comunidad y la sociedad deberá afrontar las consecuencias de su comportamiento. Esto requiere cooperación internacional», afirmó.

Vietnam necesita tener su propio camino en la creación de datos de IA.

El profesor asociado Luu Anh Tuan, de la Universidad Tecnológica de Nanyang (Singapur) y la Universidad VinUni (Vietnam), afirmó que otros países cuentan con conjuntos de datos de aproximadamente 10 años, pero Vietnam parte de cero. Por lo tanto, podemos generar datos sostenibles desde el principio, proporcionando datos limpios, éticos y culturalmente apropiados desde el principio.

Sin embargo, el mayor desafío para Vietnam es la especificidad del idioma vietnamita. Contamos con un sistema dialectal diverso, una rica cultura regional y formas de tratamiento extremadamente complejas. Grandes plataformas como ChatGPT o Gemini admiten el vietnamita, pero la calidad no es exhaustiva porque desconocen el dialecto, las costumbres ni la historia vietnamitas.

Vietnam necesita construir su propio modelo. Además, debemos desarrollar un modelo de código abierto para que las pequeñas empresas puedan usarlo y contribuir. «Si solo dependemos de modelos extranjeros en forma de 'cajas negras', solo seremos usuarios de IA , no desarrolladores de IA», afirmó.

Actualmente, el profesor asociado Luu Anh Tuan y sus colegas están desarrollando datos de IA vietnamita. Factores como el dialecto, la historia y la cultura deben considerarse prioritariamente.

También afirmó que en países extranjeros, los estudiantes reciben formación sobre IA desde muy temprano. Vietnam apenas está comenzando, pero podemos acelerar el proceso aprendiendo y adaptándonos adecuadamente.

"Los jóvenes vietnamitas son muy dinámicos; solo necesitan una formación completa sobre responsabilidad digital. Deberíamos contar con un organismo unificado para confirmar y estandarizar la calidad de los datos y los estándares éticos. VinUni también participa en el consejo para construir un sistema de estándares éticos y seguirá contribuyendo a este proceso", afirmó.

Profesor asociado Luu Anh Tuan, Universidad Tecnológica de Nanyang (Singapur), Universidad VinUni (Vietnam).

En respuesta a la estrategia de IED que busca que Vietnam lidere la región en IA para 2030, el profesor asociado Tuan cree que Vietnam cuenta con recursos humanos de alta calidad, como lo demuestran sus logros internacionales en matemáticas, física y química. Si sabemos cómo aunar esfuerzos y aplicar políticas sólidas, el objetivo para 2030 se puede alcanzar plenamente.

El profesor Toby Walsh recomienda que Vietnam invierta en las personas y mejore proactivamente sus habilidades, se asegure de que comprendan la IA y apoye a emprendedores, empresas y universidades en IA. En lugar de esperar a que otros países nos transfieran tecnología o nos guíen, debemos ser proactivos y dominar la tecnología.

Además, Vietnam necesita movilizar fuertemente las plataformas de redes sociales para crear un ambiente seguro para los usuarios nacionales, sin afectar la democracia del país.

THAO LE-THIEN LAM

Fuente: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html