IA: ¿Elegir innovación o responsabilidad?

En el Diálogo Nobel 2025 en Ciudad Ho Chi Minh, la profesora Virginia Dignum pidió a la comunidad de IA equilibrar la innovación con la responsabilidad, orientando la tecnología para servir al beneficio de la humanidad.

Exhibido en la Exposición Nobel en el marco del programa Diálogo Nobel 2025 organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en la ciudad de Ho Chi Minh el 15 de septiembre - Foto: THANH HIEP

En el Diálogo Nobel 2025, organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en Ciudad Ho Chi Minh el 15 de septiembre, expertos internacionales en tecnología presentaron muchas perspectivas sobre el equilibrio entre la innovación en inteligencia artificial (IA) y la responsabilidad hacia la humanidad.

En su intervención en el programa, la profesora de IA Responsable Virginia Dignum (Universidad de Umeå, Suecia) enfatizó: "Al igual que Alfred Nobel, quien se preocupó por el impacto de la ciencia , quienes trabajamos en el campo de la IA también debemos preguntarnos: ¿Cuál es el impacto de nuestro trabajo? ¿Se puede usar la IA para el bien, en beneficio de la humanidad?", enfatizó la Sra. Dignum.

IA fuerte, sesgo fuerte

La Sra. Dignum describe la tecnología como una moneda de dos caras: la IA resuelve tantos problemas como crea. La IA aporta capacidades sin precedentes, pero también corre el riesgo de erosionar los cimientos de la civilización que la creó.

La naturaleza de la dependencia de la IA de los datos humanos implica que nunca es verdaderamente "neutral", como muchos creen. Tras sistemas de IA aparentemente objetivos se esconden millones de trabajadores que recopilan, procesan y alimentan datos silenciosamente. La IA no crea nuevos datos, sino que solo repite, y a veces exagera, los datos existentes creados por humanos.

«Los algoritmos cada vez más potentes no solo hacen que la IA sea más precisa y rápida, sino que también amplifican los sesgos existentes, causando más daño a los humanos», advirtió la profesora Dignum. Por lo tanto, el mayor desafío para la sociedad moderna no es limitar la IA, sino gestionarla responsablemente. Enfatizó que la responsabilidad no recae en la IA, sino en la sociedad, el Gobierno y los propios humanos.

“No podemos elegir entre innovación y responsabilidad ética. La gobernanza a todos los niveles es fundamental para el desarrollo científico y el bienestar”, afirmó.

Nadie se queda atrás

Coincidiendo con el argumento del profesor Dignum, el Dr. Abdul Rohman, profesor titular de la Universidad RMIT de Vietnam, señaló que el estado actual de la carrera de la IA todavía se centra en la tecnología y olvida la idea de que la IA debe girar en torno a los humanos.

Esto hace que muchos desarrolladores de IA desconozcan la importancia de comprender las experiencias de vida específicas de los usuarios.

El Sr. Rohman puso el ejemplo de la comunidad sorda de Ciudad Ho Chi Minh, cuyo vocabulario es muy modesto debido a las limitaciones del lenguaje de señas.

Sin embargo, diseñar comandos para IA es una habilidad que depende en gran medida del vocabulario o la voz. Esto deja a la comunidad sorda, en particular, y a los grupos vulnerables, invisiblemente excluidos de los avances tecnológicos.

“Cuando se trata de gobernanza inclusiva de la IA o innovación que beneficia a todos, se ignoran los datos de quienes no son mayoría. Las experiencias de la vida real no se incorporan a la innovación en IA”, afirmó Rohman.

En cuanto a las realidades del desarrollo de la IA, el Sr. Rohman dijo que Vietnam aún necesita "localizar" los modelos de IA para que se adapten mejor al contexto nacional específico.

Vietnam no solo cuenta con zonas urbanas como Hanói, Ciudad Ho Chi Minh o Da Nang, sino también con zonas montañosas donde la infraestructura digital está subdesarrollada. Esto crea una brecha en el acceso a la tecnología digital .

Si no abordamos esto, los grupos ya desfavorecidos se verán aún más rezagados por la IA. El problema se agrava si las personas saben cómo usar la IA, pero no saben cómo protegerse de los riesgos. Podemos investigar para proporcionar un conjunto de herramientas que facilite el acceso equitativo a la IA y proteja a los usuarios. Ese es un ámbito en el que el sector privado, el Estado y la academia pueden aunar esfuerzos, sugirió.

Nuevos enfoques de la educación en la era de la IA

En medio de la ola de inversión masiva en hardware e infraestructura de IA, muchos expertos afirman que la clave para liderar no reside en la tecnología, sino en las personas. Si quieres dominar la IA, empieza por la educación.

El periódico SCMP citó al Dr. Jack Ilmonen, experto en IA y análisis de datos de la Universidad Keiser (EE. UU.), quien enfatizó: "El país que mejor dote a su gente con la capacidad de colaborar eficazmente con IA ascenderá a la cima en productividad, innovación y competitividad".

El poder colectivo, amplificado por la IA, se convertirá entonces en una ventaja estratégica dominante. En el panorama general, los datos y el hardware son solo "munición", la educación es el "arma".

La Dra. Rita Mokbel, presidenta y directora ejecutiva de Ericsson Vietnam, afirmó que la nueva situación refuerza aún más la importancia de la cooperación entre el gobierno, el mundo académico y la industria. Esto debe hacerse desde el primer paso en la integración de la IA en el currículo.

“En nuestra experiencia, no solo en IA sino también en transformación digital, cuando el Gobierno toma la iniciativa y reúne a la academia, los sectores privado y público, pueden ocurrir milagros”.

NGOC DUC - XUAN THAO - TAM DUONG

Fuente: https://tuoitre.vn/ai-chon-doi-moi-hay-trach-nhiem-20250918075637729.htm