En exhibición en la Exposición Nobel, parte del programa Diálogo Nobel 2025 organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en la ciudad de Ho Chi Minh el 15 de septiembre - Foto: THANH HIEP
En el Diálogo Nobel 2025, organizado por la Embajada de Suecia en colaboración con la Universidad RMIT de Vietnam en Ciudad Ho Chi Minh el 15 de septiembre, expertos internacionales en tecnología ofrecieron diversas perspectivas sobre cómo equilibrar la innovación en inteligencia artificial (IA) y la responsabilidad hacia la humanidad.
En su intervención en el programa, la profesora Virginia Dignum, especialista en IA de la Universidad de Umeå (Suecia), enfatizó: «Así como Alfred Nobel se preocupó por el impacto de la ciencia , quienes trabajamos en el campo de la IA también debemos preguntarnos: ¿Cuál es el impacto de nuestro trabajo? ¿Se puede usar la IA para el bien, en beneficio de la humanidad?».
La IA poderosa también tiene fuertes sesgos.
La Sra. Dignum describe esta tecnología como un arma de doble filo: la IA resuelve tantos problemas como los crea. Si bien ofrece posibilidades sin precedentes, también conlleva el riesgo de erosionar los cimientos mismos de la civilización que la creó.
La propia naturaleza de la dependencia de la IA de los datos humanos implica que nunca puede ser verdaderamente "neutral", como muchos creen. Tras sistemas de IA aparentemente objetivos se esconden millones de trabajadores que recopilan, procesan y alimentan datos silenciosamente. La IA no crea nuevos datos; simplemente repite, y a veces exagera, los datos existentes creados por humanos.
«Los algoritmos cada vez más potentes no solo hacen que la IA sea más precisa y rápida, sino que también amplifican los sesgos existentes, causando más daño a los humanos», advirtió la profesora Dignum. Por lo tanto, el mayor desafío para la sociedad moderna no es controlar la IA, sino gestionarla responsablemente. Enfatizó que la responsabilidad no recae en la IA, sino en la sociedad, el gobierno y la humanidad misma.
"No podemos elegir entre innovación y responsabilidad ética. La gobernanza a todos los niveles es el pilar fundamental para el desarrollo científico y el bienestar", afirmó.
Nadie se queda atrás.
Coincidiendo con el argumento del profesor Dignum, el Dr. Abdul Rohman, profesor titular de la Universidad RMIT de Vietnam, señaló que la actual carrera de la IA todavía aborda las cosas desde una perspectiva centrada en la tecnología, olvidando la idea de que la IA debe girar en torno a los humanos.
Esto lleva a muchos desarrolladores de IA a pasar por alto la importancia de comprender profundamente las experiencias de vida específicas de los usuarios.
El Sr. Rohman citó el ejemplo de la comunidad sorda de Ciudad Ho Chi Minh, cuyo vocabulario es muy limitado debido a las limitaciones del lenguaje de señas.
Sin embargo, diseñar comandos para IA es una habilidad que depende en gran medida del vocabulario o la voz. Esto, inadvertidamente, excluye a la comunidad sorda en particular, y a los grupos vulnerables en general, de los avances tecnológicos.
"Cuando se trata de gobernanza inclusiva de la IA o innovación que beneficia a todos, se pasan por alto los datos de quienes no pertenecen a la mayoría. Las experiencias del mundo real no se incorporan a las innovaciones de la IA", afirmó Rohman.
Basándose en las realidades del desarrollo de la IA, el Sr. Rohman dijo que Vietnam todavía necesita "localizar" los modelos de IA para que se adapten mejor al contexto nacional específico.
Vietnam no solo cuenta con zonas urbanas como Hanói, Ciudad Ho Chi Minh o Da Nang, sino también con regiones montañosas donde la infraestructura digital está subdesarrollada. Esto crea una brecha en el acceso a la tecnología digital .
Si no abordamos estas consecuencias, los grupos ya desfavorecidos se verán aún más perjudicados por la IA. El problema es aún peor si las personas saben cómo usar la IA, pero no saben cómo protegerse de los riesgos. Podemos investigar cómo proporcionar un conjunto de herramientas que permita un acceso equitativo a la IA y, al mismo tiempo, proteja a los usuarios. Ese es un ámbito en el que el sector privado, el gobierno y el mundo académico pueden colaborar», sugirió.
Un nuevo enfoque de la educación en la era de la IA.
En medio de la ola de inversión masiva en hardware e infraestructura de IA, muchos expertos afirman que la clave del liderazgo no reside en la tecnología, sino en las personas. Para dominar la IA, hay que empezar por la educación.
El SCMP citó al Dr. Jack Ilmonen, experto en IA y análisis de datos de la Universidad Keiser (EE. UU.), quien enfatizó: "El país que mejor equipe a sus ciudadanos para colaborar eficazmente con la IA alcanzará la cima en productividad, innovación y competitividad".
Entonces, la fuerza colectiva, amplificada por la IA, se convertirá en una ventaja estratégica superior. En general, los datos y el hardware son solo "munición", mientras que la educación es el "arma".
La Dra. Rita Mokbel, presidenta y directora ejecutiva de Ericsson Vietnam, afirmó que la nueva situación refuerza aún más la importancia de la colaboración entre el gobierno, la academia y la industria. Esto debe implementarse comenzando con la integración de la IA en el plan de estudios.
“En nuestra experiencia, no solo en IA sino también en transformación digital, cuando el gobierno toma la iniciativa y reúne a la academia, el sector privado y el sector público, pueden ocurrir milagros”.
Fuente: https://tuoitre.vn/ai-chon-doi-moi-hay-trach-nhiem-20250918075637729.htm
Kommentar (0)