Las empresas que utilicen la IA de forma responsable obtendrán ventaja comercial

El profesor Toby Walsh, de la Universidad de Nueva Gales del Sur (Australia), habló sobre el uso responsable y ético de la IA en el marco del programa de entrevistas "IA para la humanidad: ética y seguridad de la IA en la nueva era".

La mesa redonda "IA para la humanidad: ética y seguridad de la IA en la nueva era" en el marco de la Semana de la Ciencia y la Tecnología VinFuture 2025 reúne a científicos, políticos e inventores para debatir sobre el desarrollo responsable de una IA, hacia valores humanísticos.

Al margen del debate, el profesor Toby Walsh - Universidad de Nueva Gales del Sur (Australia), académico de la Asociación Americana de Maquinaria Computacional, compartió sobre el uso ético y responsable de la IA.

El uso responsable de la IA debería ser obligatorio

Según el profesor, ¿el uso responsable de la IA debería ser voluntario u obligatorio? ¿Y cómo deberíamos comportarnos realmente con ella?

Profesor Toby Walsh: Creo firmemente que el uso responsable de la IA debería ser obligatorio. Actualmente, existen incentivos perversos, dadas las enormes cantidades de dinero que se generan con la IA, y la única manera de garantizar un buen comportamiento es contar con regulaciones estrictas, de modo que el interés público siempre se equilibre con los intereses comerciales.

- ¿Puede darnos ejemplos específicos de diferentes países de aplicaciones de IA responsables y éticas?

Profesor Toby Walsh: Un ejemplo clásico son las decisiones de alto riesgo, como las sentencias y condenas en Estados Unidos, donde se utiliza un sistema de inteligencia artificial para hacer recomendaciones sobre la pena de prisión de una persona y la probabilidad de reincidencia.

Lamentablemente, este sistema se diseñó con datos históricos y refleja, sin querer, prejuicios raciales del pasado que conducen a la discriminación contra las personas negras. No deberíamos permitir que sistemas como este decidan quién es encarcelado.

Cuando la IA comete un error, ¿quién es responsable? Especialmente con los agentes de IA, ¿tenemos la capacidad de corregir sus mecanismos operativos?

Profesor Toby Walsh: El problema principal cuando la IA comete errores es que no podemos exigirle responsabilidades. La IA no es humana, y esto es una falla en todos los sistemas legales del mundo . Solo los humanos son responsables de sus decisiones y acciones.

De repente, tenemos un nuevo “agente” llamado IA, que puede –si se lo permitimos– tomar decisiones y realizar acciones en nuestro mundo, lo que plantea un desafío: ¿a quién le pediremos cuentas?

La respuesta es responsabilizar a las empresas que implementan y operan sistemas de IA por las consecuencias que estas “máquinas” causan.

El profesor Toby Walsh, de la Universidad de Nueva Gales del Sur, participó en el seminario «IA para la humanidad: Ética y seguridad de la IA en la nueva era», en el marco de la Semana de la Ciencia y la Tecnología VinFuture 2025. (Foto: Minh Son/Vietnam+)

Muchas empresas también hablan de IA responsable. ¿Cómo podemos confiar en ellas? ¿Cómo sabemos que son serias e integrales, y que no solo usan la "IA responsable" como estrategia de marketing?

Profesor Toby Walsh: Necesitamos aumentar la transparencia. Es importante comprender las capacidades y limitaciones de los sistemas de IA. También deberíamos "votar con la práctica": elegir usar los servicios de forma responsable.

Creo firmemente que el uso responsable de la IA por parte de las empresas se convertirá en un factor diferenciador en el mercado, otorgándoles una ventaja comercial. Si una empresa respeta los datos de sus clientes, se beneficiará y atraerá clientes.

Las empresas se darán cuenta de que hacer lo correcto no solo es ético, sino que también les dará más éxito. Considero que esto es una forma de diferenciar entre empresas, y las empresas responsables son aquellas con las que podemos sentirnos cómodos al hacer negocios.

«Si no tenemos cuidado, podemos vivir un período de colonización digital»

Vietnam es uno de los pocos países que están considerando promulgar la Ley de Inteligencia Artificial. ¿Cuál es su evaluación al respecto? En su opinión, para países en desarrollo como Vietnam, ¿cuáles son los desafíos en materia de ética y seguridad en el desarrollo de la IA? ¿Qué recomendaciones tiene el profesor para que Vietnam logre sus objetivos en la estrategia de IA: estar a la vanguardia de la región y del mundo en investigación y dominio de la IA?

Profesor Toby Walsh: Me complace que Vietnam sea uno de los países pioneros en contar con una Ley específica sobre Inteligencia Artificial. Esto es importante porque cada país tiene sus propios valores y cultura, y necesita leyes que los protejan.

Los valores y la cultura vietnamitas difieren de los de Australia, China y Estados Unidos. No podemos esperar que las empresas tecnológicas de China o Estados Unidos protejan automáticamente la cultura y el idioma vietnamitas. Vietnam debe tomar la iniciativa para protegerlos.

El profesor Toby Walsh advierte que, si no tenemos cuidado, podríamos estar viviendo un período de colonización digital. (Foto: Minh Son/Vietnam+)

Soy consciente de que, en el pasado, muchos países en desarrollo atravesaron un período de colonización física. Si no tenemos cuidado, podríamos atravesar un período de "colonización digital". Sus datos serán explotados y se convertirán en un recurso barato.

Esto corre riesgo si los países en desarrollo desarrollan la industria de la IA de una manera que sólo explota los datos sin controlar ni proteger sus propios intereses.

- Entonces, ¿cómo superaremos esta situación, profesor?

Profesor Toby Walsh: Es simple: invertir en las personas. Capacitarlas, asegurarse de que comprendan la IA. Apoyar a los emprendedores y empresas de IA, y a las universidades. Ser proactivos. En lugar de esperar a que otros países nos transfieran tecnología o nos guíen, debemos ser proactivos y apropiarnos de la tecnología.

Más importante aún, debemos defender firmemente las plataformas de redes sociales para crear un entorno seguro para los usuarios en Vietnam, sin afectar la democracia del país.

De hecho, hay numerosos ejemplos de cómo el contenido de las redes sociales ha influido en los resultados electorales, dividido países e incluso incitado al terrorismo.

La IA está muy desarrollada en Vietnam. Recientemente, Vietnam ha implementado numerosas políticas para promover la IA, pero también enfrenta un problema: el fraude causado por la IA. Entonces, según el profesor, ¿cómo debería Vietnam abordar esta situación?

Profesor Toby Walsh: Para las personas, creo que la forma más sencilla es verificar la información. Por ejemplo, cuando recibimos una llamada o un correo electrónico, por ejemplo, de un banco, debemos volver a comprobarlo: podemos devolver la llamada o contactar directamente al banco para verificar la información. Hoy en día, existen muchos correos electrónicos y números de teléfono falsos, e incluso las llamadas de Zoom pueden ser falsificadas. Estas estafas son muy sencillas, económicas y no requieren mucho tiempo.

En mi familia, también tenemos nuestra propia medida de seguridad: una "pregunta secreta" que solo conocen los miembros de la familia, como el nombre de nuestro conejo. Esto garantiza que la información importante permanezca en la familia y no se filtre.

- Muchas gracias./.

El profesor Toby Walsh es académico honorario de ARC y profesor Scientia en Inteligencia Artificial (IA) en la Universidad de Nueva Gales del Sur (UNSW) en Sídney. Es un firme defensor de establecer límites para garantizar que la IA se utilice para mejorar la vida de las personas.

También es miembro de la Academia Australiana de Ciencias y ha sido incluido en la lista internacional de "personas influyentes en IA".

(Vietnam+)

Fuente: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp