Singapur aplica agentes de inteligencia artificial en el sector público.

Mientras Japón avanza hacia la expansión de la aplicación e interacción de la inteligencia artificial (IA) en la vida cotidiana, en muchos países también se plantea la cuestión de cómo gestionar estos sistemas cada vez más autónomos. Singapur es uno de los países líderes en este sentido, ya que ha comenzado a diseñar sus propios mecanismos de monitorización para agentes de IA en el sector público.

El gobierno de Singapur afirma que está desarrollando un mecanismo de registro centralizado para los agentes de IA utilizados en el sector público.

Según The Straits Times, el sistema dará servicio a aproximadamente 150.000 funcionarios públicos y permitirá el seguimiento de la información sobre el propietario, la función, el alcance de las operaciones y los derechos de acceso de cada agente de IA. Esta iniciativa surge en un momento en que Singapur está acelerando la aplicación de la inteligencia artificial en el trabajo administrativo. Actualmente, más de la mitad de los funcionarios públicos del país ya utilizan herramientas generadas por IA y desarrolladas por el gobierno, mientras que se están probando numerosas plataformas de IA nuevas para apoyar el procesamiento de documentos, la agregación de información y mejorar la eficiencia del servicio público.

También te puede interesar

Las empresas están teniendo dificultades para hacer frente a las amenazas de ciberseguridad facilitadas por la IA.DNVN - El 19 de mayo, Fortinet anunció los resultados de un nuevo estudio realizado por Forrester Consulting, que muestra que las organizaciones de la región de Asia-Pacífico tienen dificultades para mantenerse al día con la complejidad de la ciberseguridad y las amenazas de la inteligencia artificial (IA), un factor importante que actualmente ejerce presión sobre su capacidad de respuesta.

Según los expertos, la aparición de agentes de IA —sistemas capaces de planificar, tomar decisiones y realizar tareas de forma independiente en lugar de los humanos— está creando muchas oportunidades, pero también conlleva riesgos considerables.

El Malay Mail señaló que, a medida que la IA se vuelve cada vez más autónoma, las cuestiones relativas a la responsabilidad legal, la seguridad de los datos y el control humano son más acuciantes que nunca. Además del mecanismo de registro, Singapur acaba de anunciar un marco para la gobernanza de agentes de IA, desarrollado por la Autoridad de Desarrollo de Medios de Información y Comunicación (IMD). Este marco establece principios de transparencia, trazabilidad, gestión de riesgos y rendición de cuentas para garantizar que los seres humanos conserven siempre el poder de decisión final.

Los observadores creen que, si se implementa eficazmente, el mecanismo de registro de agentes de IA podría convertirse en un modelo para muchos países en la gestión de la IA de próxima generación. Sin embargo, Singapur aún enfrenta numerosos desafíos, como definir claramente la responsabilidad cuando se producen errores de IA, proteger los datos de los ciudadanos frente a los ciberataques y mantener un equilibrio entre el control de riesgos y la promoción de la innovación.

En el contexto de la transición de la IA de un rol de apoyo a la capacidad de realizar de forma independiente numerosas tareas complejas, el enfoque de Singapur demuestra una nueva tendencia en la gobernanza tecnológica: el rápido desarrollo debe ir acompañado de mecanismos claros de supervisión y rendición de cuentas. Este es también un desafío al que se enfrentan muchos países al entrar en la era de los agentes de IA.