Inteligencia artificial: ¿Innovación o responsabilidad?

En el Diálogo Nobel 2025 celebrado en Ciudad Ho Chi Minh, la profesora Virginia Dignum hizo un llamamiento a la comunidad de IA para que equilibre la innovación con la responsabilidad, orientando la tecnología al servicio del beneficio de la humanidad.

En exhibición en la Exposición Nobel, parte del programa Diálogo Nobel 2025 organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en Ciudad Ho Chi Minh el 15 de septiembre - Foto: THANH HIEP

En el Diálogo Nobel 2025, organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en Ciudad Ho Chi Minh el 15 de septiembre, expertos internacionales en tecnología ofrecieron diversas perspectivas sobre cómo equilibrar la innovación en inteligencia artificial (IA) y la responsabilidad hacia la humanidad.

Durante su intervención en el programa, la profesora Virginia Dignum, especialista en IA de la Universidad de Umeå (Suecia), destacó: «Así como Alfred Nobel se preocupaba por el impacto de la ciencia , nosotros, quienes trabajamos en el campo de la IA, también debemos preguntarnos: ¿Cuál es el impacto de nuestro trabajo? ¿Puede utilizarse la IA para el bien, en beneficio de la humanidad?».

La IA potente también tiene fuertes sesgos.

La Sra. Dignum describe esta tecnología como un arma de doble filo: la IA resuelve tantos problemas como los que crea. Si bien la IA ofrece posibilidades sin precedentes, también conlleva el riesgo de erosionar los cimientos mismos de la civilización que la creó.

La propia naturaleza de la IA, que depende de los datos humanos, implica que nunca podrá ser verdaderamente "neutral", como muchos creen. Detrás de sistemas de IA aparentemente objetivos, millones de trabajadores recopilan, procesan y alimentan datos en silencio. La IA no crea datos nuevos; simplemente repite, y a veces exagera, los datos existentes creados por humanos.

«Los algoritmos cada vez más potentes no solo hacen que la IA sea más precisa y rápida, sino que también amplifican los sesgos existentes, causando mayor daño a los seres humanos», advirtió la profesora Dignum. Por lo tanto, el mayor desafío para la sociedad moderna no es controlar la IA, sino gestionarla de forma responsable. Hizo hincapié en que la responsabilidad no recae en la IA, sino en la sociedad, el gobierno y la propia humanidad.

"No podemos elegir entre innovación y responsabilidad ética. La gobernanza en todos los niveles es la piedra angular del desarrollo científico y el bienestar", afirmó.

Nadie se queda atrás.

Coincidiendo con el argumento del profesor Dignum, el Dr. Abdul Rohman, profesor titular de la Universidad RMIT de Vietnam, señaló que la actual carrera por la IA sigue abordando las cosas desde una perspectiva centrada en la tecnología, olvidando la idea de que la IA debe girar en torno a los seres humanos.

Esto lleva a muchos desarrolladores de IA a pasar por alto la importancia de comprender a fondo las experiencias de vida específicas de los usuarios.

El Sr. Rohman citó el ejemplo de la comunidad sorda de Ciudad Ho Chi Minh, cuyo vocabulario es muy limitado debido a las limitaciones del lenguaje de señas.

Sin embargo, diseñar comandos para la IA es una habilidad que depende en gran medida del vocabulario o la voz. Esto excluye inadvertidamente a la comunidad sorda en particular, y a los grupos vulnerables en general, de los avances tecnológicos.

«Cuando se trata de una gobernanza de IA inclusiva o de innovaciones que beneficien a todos, se pasan por alto los datos de quienes no pertenecen a la mayoría. Las experiencias de la vida real no se incorporan a las innovaciones de IA», afirmó Rohman.

Basándose en la realidad del desarrollo de la IA, el Sr. Rohman afirmó que Vietnam todavía necesita "adaptar" los modelos de IA al contexto nacional específico.

Vietnam no solo cuenta con áreas urbanas como Hanói, Ciudad Ho Chi Minh o Da Nang, sino también con regiones montañosas donde la infraestructura digital está poco desarrollada. Esto genera una brecha en el acceso a la tecnología digital .

«Si no abordamos estas consecuencias, los grupos ya desfavorecidos se verán aún más perjudicados por la IA. El problema se agrava si las personas saben usar la IA, pero desconocen cómo protegerse de los riesgos. Podemos investigar cómo proporcionar un conjunto de herramientas que permita un acceso equitativo a la IA, protegiendo al mismo tiempo a los usuarios. Este es un ámbito en el que el sector privado, el gobierno y la academia pueden colaborar», sugirió.

Un nuevo enfoque para la educación en la era de la IA.

En medio de la oleada de inversiones masivas en hardware e infraestructura de IA, muchos expertos afirman que la clave del liderazgo no reside en la tecnología, sino en las personas. Para dominar la IA, hay que empezar por la educación.

El SCMP citó al Dr. Jack Ilmonen, experto en IA y análisis de datos de la Universidad Keiser (EE. UU.), quien destacó: "El país que mejor prepare a sus ciudadanos para colaborar eficazmente con la IA se situará a la cabeza en productividad, innovación y competitividad".

Entonces, la fuerza colectiva, amplificada por la IA, se convertirá en una ventaja estratégica superior. En el panorama general, los datos y el hardware son simplemente "munición", mientras que la educación es el "arma".

La Dra. Rita Mokbel, presidenta y directora ejecutiva de Ericsson Vietnam, afirmó que la nueva situación hace que la colaboración entre el gobierno, la academia y la industria sea aún más importante. Esto debe implementarse comenzando con la integración de la IA en el currículo.

"Según nuestra experiencia, no solo en inteligencia artificial sino también en transformación digital, cuando el gobierno toma la iniciativa y reúne al mundo académico, el sector privado y el sector público, pueden ocurrir milagros."

NGOC DUC - XUAN THAO - TAM DUONG

Fuente: https://tuoitre.vn/ai-chon-doi-moi-hay-trach-nhiem-20250918075637729.htm