El gobierno sudafricano acaba de crear un panel independiente de expertos para revisar el borrador de la política nacional sobre inteligencia artificial tras un escándalo relacionado con documentos que contenían referencias ficticias.
Este es uno de los pocos casos en los que se sospecha que un documento regulatorio sobre IA utiliza contenido generado por IA que carece de verificación.
El borrador, publicado en abril para comentarios públicos, tiene como objetivo convertir a Sudáfrica en líder en innovación en inteligencia artificial en África.
Sin embargo, después de que News24 descubriera numerosas citas y referencias inexistentes, el Departamento Sudafricano de Comunicaciones Digitales y Tecnología (DCDT) se vio obligado a retractarse del documento completo.
El ministro de DCDT, Solly Malatsi, reconoció que se había producido un grave error en el proceso de compilación de documentos. Afirmó que las auditorías internas previas no habían detectado el problema y admitió la falta de transparencia en el uso de la IA para compilar los materiales de referencia.
El gobierno sudafricano pretende finalizar la versión revisada en noviembre de 2026 para su aprobación por el Gabinete, antes de someterla a consulta pública en enero de 2027. El nuevo comité de revisión, compuesto por siete expertos, tiene la tarea de examinar todos los documentos y eliminar o reemplazar las fuentes inexactas.
Jeanette Morwane, directora de Innovación Digital del DCDT, afirmó que el proceso de revisión se centrará en garantizar la transparencia y la credibilidad académica del texto. «El panel de expertos revisará cada sección del contenido antes de presentarlo al Gobierno», declaró.
El incidente también derivó en medidas disciplinarias internas. Dos funcionarios implicados fueron suspendidos a la espera de una investigación. La directora general del DCDT, Nonkqubela Jordan-Dyani, calificó el incidente de «muy lamentable» y afirmó que retirar el borrador era necesario para restablecer la credibilidad del organismo.
El escándalo en Sudáfrica refleja el creciente desafío que supone la aplicación de la IA en la formulación de políticas públicas. Si bien las herramientas de generación de datos pueden facilitar la recopilación de información de forma más rápida, también conllevan el riesgo de generar desinformación o fuentes ficticias si no son debidamente verificadas por humanos.
Los observadores consideran que este incidente sirve como una advertencia temprana para muchos gobiernos que implementan estrategias de IA a nivel mundial. A medida que la inteligencia artificial se involucra cada vez más en la gobernanza, las exigencias de transparencia, verificación de datos y rendición de cuentas probablemente se volverán cruciales.
Según Reuters
Fuente: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html
Kommentar (0)