El profesor Toby Walsh advierte del riesgo de “colonización digital” en la era de la IA

DNVN - El profesor Toby Walsh valoró altamente la consideración de Vietnam de promulgar la Ley de Inteligencia Artificial (IA) y advirtió sobre los peligros potenciales que los humanos pueden enfrentar en la era de la IA, incluido el problema de la "colonización digital".

El profesor Toby Walsh habló en el panel de discusión "IA para la humanidad: ética y seguridad de la IA en la nueva era", una actividad dentro de la semana de ciencia y tecnología del Premio VinFuture 2025.

Utilizando la IA de forma responsable

Toby Walsh, profesor de la Universidad de Nueva Gales del Sur, Sídney, Australia, y también investigador principal de CSIRO Data61, un importante centro científico de Australia, pasó 40 años investigando IA y dijo que en los primeros 30 años solo estaba "interesado en cómo desarrollar la IA cada vez de manera más poderosa", pero que en los últimos 10 años "se ha vuelto cada vez más interesado y expresivo en el desarrollo responsable de la IA".

Citando el ejemplo del uso de un sistema de IA en Estados Unidos, que utilizó datos históricos racialmente sesgados que dieron lugar a sentencias discriminatorias contra personas negras, el profesor Walsh destacó la necesidad de utilizar la IA de manera responsable.

“Las empresas que implementan y operan sistemas de IA deben rendir cuentas por las consecuencias que causan estas máquinas”, afirmó Toby Walsh.

Para obligar a las empresas a practicar una IA responsable, afirmó, los usuarios necesitan mayor transparencia. Es importante comprender las capacidades y limitaciones de los sistemas de IA. También deberíamos "votar con la práctica", es decir, optar por utilizar servicios responsables. Convertir el uso responsable de la IA en una ventaja comercial para las empresas es una buena manera de regular su comportamiento.

Escapar de la trampa de la "colonización digital"

Entre los riesgos que conlleva la IA, el profesor Toby Walsh enfatizó especialmente la posibilidad de ser "colonizados digitalmente". "Soy muy consciente de que, en el pasado, muchos países en desarrollo han pasado por un período de colonización física. Si no tenemos cuidado, podríamos atravesar un período de colonización digital. Sus datos serán explotados y se convertirán en un recurso barato. Esto corre el riesgo si los países en desarrollo desarrollan la industria de la IA de una manera que solo explota los datos sin controlar ni proteger sus derechos", afirmó.

Según él, para escapar de este peligro es necesario promover los valores únicos, la cultura indígena y necesitan leyes que protejan esos valores.

“Me complace enormemente que Vietnam sea uno de los países pioneros en contar con una Ley especializada en Inteligencia Artificial. Los valores y la cultura de Vietnam son diferentes a los de Australia, China y Estados Unidos. No podemos esperar que las empresas tecnológicas de China o Estados Unidos protejan automáticamente la cultura y el idioma vietnamitas. Estos aspectos deben ser protegidos proactivamente por el propio Vietnam”, enfatizó el profesor Toby Walsh.

Además, cree que necesitamos invertir proactivamente en las personas, mejorar las habilidades de todos, de los emprendedores, de las empresas de IA, de las universidades... para que comprendan la IA. «En lugar de esperar a que otros países transfieran tecnología o den instrucciones, debemos ser proactivos y dominar la tecnología», afirmó el profesor Toby Walsh.

Además de eso, según el profesor Toby Walsh, es necesario movilizar fuertemente las plataformas de redes sociales para crear un ambiente seguro para los usuarios en Vietnam en particular y en el mundo en general, sin afectar la democracia del país.

El profesor Toby Walsh es autor de tres libros sobre inteligencia artificial: "¡Está vivo! La inteligencia artificial desde el piano lógico hasta los robots asesinos" abarca la historia y el desarrollo actual de la IA; "2062: El mundo que creó la IA" explora el impacto potencial de la IA en la sociedad humana. Su tercer libro, "Máquinas que se comportan mal: la moralidad de la IA", profundiza en los desafíos éticos de la inteligencia artificial.

El profesor Toby Walsh es un invitado habitual en canales de televisión famosos como ABC, BBC, CNN, DW, NPR, RT... donde aborda el impacto de la IA y los robots en la sociedad. También es escritor y ha publicado numerosos artículos en The New Scientist, American Scientist, Le Scienze, Cosmos, Technology Review, The New York Times, The Guardian, The Conversation...

Hien Thao

Fuente: https://doanhnghiepvn.vn/cong-nghe/giao-su-toby-walsh-canh-bao-ve-nguy-co-bi-do-ho-so-trong-thoi-dai-ai/20251203061618510