Inteligencia Artificial y Ética: ¿Por qué la transparencia es la base de la confianza?

En el Concurso de IA de Vietnam 2025, si bien las ideas de AIWS Angel y Film Park impresionaron por su creatividad, el tema de la ética de AIWS suscitó silenciosamente una conversación más importante que nunca: la ética y la transparencia en la era de la inteligencia artificial.

Jeffrey Saviano, experto en ética de la IA en Harvard, miembro del consejo asesor del Concurso de IA de Vietnam 2025. Foto: Boston Global Forum (BGF)

Cuando la inteligencia artificial se convierte en un reflejo de la sociedad

La IA está entrando en una fase donde cada línea de código puede afectar a millones de personas. Desde decidir quién obtiene un préstamo hasta elegir qué noticias aparecen en tu página de inicio, los sistemas de inteligencia artificial están teniendo un profundo impacto en la confianza social.

Pero la confianza —algo aparentemente invisible— es el motor de la nueva era tecnológica. Cuando un sistema de IA deje de ser transparente, la gente empezará a preguntarse: ¿A quién sirve la IA? ¿Quién la controla?

En cualquier avance tecnológico, la ética y la transparencia no son solo factores técnicos: son la base para que la tecnología sea socialmente aceptable.

De la “IA útil” a la “IA confiable”

Hace tan solo unos años, la carrera global por la IA se centraba en «quién crea las herramientas más potentes». Pero ahora, la dirección está cambiando: de la utilidad a la fiabilidad. La Unión Europea ha aprobado la Ley de IA de la UE, que exige que todos los modelos de IA divulguen sus fuentes de datos, procesos de entrenamiento y mecanismos de protección del usuario. En Estados Unidos, las principales corporaciones tecnológicas, como OpenAI, Google y Meta, están obligadas a divulgar sus mecanismos de moderación de contenido y comentarios. En Asia, Japón y Corea del Sur también están impulsando estrategias de «IA para las personas», con directrices éticas obligatorias.

En Vietnam, aunque aún incipiente, este espíritu ha comenzado a extenderse entre la joven comunidad creativa. El Concurso de IA de Vietnam 2025, con el tema Ética de la IA, forma parte de este camino: anima a los participantes a diseñar y desarrollar herramientas para evaluar los valores éticos de la IA, en pos de un futuro tecnológico responsable.

Ética de AIWS: Cuando la transparencia se convierte en un principio ético fundamental

A diferencia de los dos temas “AIWS Angel” y “AIWS Film Park”, que son emotivos y creativos, AIWS Ethics plantea un problema más difícil: ¿Cómo puede la IA reflejar los verdaderos valores de los humanos?

Ética de AIWS: pilares de equilibrio y transparencia. Foto: Midjourney

Muchos de los participantes de este año dieron pasos audaces al explorar el tema de la IA y la ética: un grupo creó un conjunto de indicadores para medir los valores éticos de los modelos de IA; otro desarrolló una aplicación para identificar la desinformación, ayudando a los usuarios a distinguir entre contenido real y falso generado por la IA. Otros propusieron un «código de conducta» para la IA, que permite verificar el nivel de transparencia en cada decisión del sistema.

En particular, un grupo de candidatos incluso planteó una pregunta desafiante: ¿puede la IA autoevaluar su propia calidad moral?

La transparencia no se limita a revelar los algoritmos, sino que también abarca la equidad en el trato que la IA da a los seres humanos. Los jueces hicieron hincapié en que, a medida que la IA se acerca a una inteligencia superior, debe guiarse por la responsabilidad y los valores humanos.

Transparencia: una brújula en el mundo de los datos

La IA aprende de los datos, y estos provienen de los humanos. Si los datos están sesgados, el producto de IA reflejará ese sesgo. Si los datos se manipulan, la IA se desorientará. Por eso, la transparencia se considera la «brújula ética» de la inteligencia artificial. Un sistema transparente permite a los usuarios comprender: de dónde aprende la IA; qué criterios se utilizan para basar sus decisiones; y quién es responsable cuando algo falla.

Según el informe de la OCDE sobre la gobernanza de la IA, la transparencia, la responsabilidad y la rendición de cuentas son elementos clave. Esto demuestra que la confianza no nace, sino que se construye mediante la transparencia. Y en una era donde la IA puede «componer música, pintar cuadros, calificar puntuaciones e incluso tomar decisiones médicas», mantener la transparencia se trata de preservar la humanidad de la tecnología.

Concurso de IA de Vietnam 2025 - Sinfonía para la humanidad

Este año, el mensaje del concurso fue definido por el Comité Organizador con una frase rica en simbolismo: “Sinfonía para la Humanidad”, una imagen donde la tecnología, el arte y la ética se fusionan.

Si AIWS Angel representa la compasión y el espíritu de servicio, AIWS Film Park representa la emoción y la creatividad, entonces AIWS Ethics es la música de fondo que mantiene la "sinfonía de la IA" equilibrada, sin desafinar con el rápido desarrollo de la tecnología.

Los organizadores destacaron que la inteligencia artificial solo es verdaderamente poderosa cuando se construye sobre la base de la transparencia, la ética y el enfoque centrado en el ser humano, que también es el principio rector de todo proceso creativo.

De la competencia a la conciencia comunitaria

El Concurso de IA de Vietnam 2025 entra en la fase preliminar de evaluación, pero la importancia del tema de Ética de la AIWS trasciende el marco de una competición. Sienta las bases para un diálogo a largo plazo sobre ética tecnológica, donde los jóvenes vietnamitas comienzan a aprender a cuestionar:

“¿Es la tecnología justa para todos?” “¿Puede la IA comprender la línea que separa el beneficio de la humanidad?”

Es entonces cuando la inteligencia artificial vuelve a ser lo que estaba destinada a ser: una inteligencia iluminada por los humanos.

En definitiva, la IA no solo es poderosa por su velocidad de procesamiento o la cantidad de datos que recopila, sino por la confianza que la gente deposita en ella. La transparencia es el puente entre dos mundos: el de las máquinas y los humanos, el de la computación y la emoción, el de la innovación y la ética.

Y en el Concurso de IA de Vietnam 2025, entre cientos de ideas y miles de horas de trabajo en equipo, el tema de la ética de AIWS nos recordó algo simple pero profundo: la tecnología puede liderar el mundo, pero solo la ética puede ayudar al mundo a avanzar.

Concurso de IA de Vietnam 2025 - Sinfonía para la humanidad: Cuando la inteligencia artificial sepa escuchar, comprender y comportarse como un compañero de confianza.

(Fuente: VLAB Innovation)

Fuente: https://vietnamnet.vn/ai-va-dao-duc-vi-sao-minh-bach-la-nen-tang-cua-niem-tin-2461590.html