Lecciones aprendidas en el uso de IA

(PLVN) - El reciente incidente donde el Comité Popular de una provincia del norte emitió un documento para rectificar el trabajo de asesoramiento de un departamento especializado después de descubrir una serie de errores graves en un informe presentado al Comité Popular Provincial; uso sospechoso de herramientas en línea e inteligencia artificial (IA); sirve como una lección para todos al usar estas herramientas.

Anteriormente, el informe presentado por el Departamento al Comité Popular Provincial contenía numerosos errores ortográficos, errores técnicos, malas interpretaciones del tema e inexactitudes fundamentales en los datos. Estos incluían errores ortográficos, omisiones y distorsiones de palabras: "mở dữ liệu" (datos abiertos) se convirtió en "mở dữ li" (li de datos abiertos), "ươm tạo doanh nghiệp" (negocios en incubación) se convirtió en "xà tạo" (en incubación), "cơ hội và thách thức" (oportunidades y desafíos) se convirtió en "cơ hội và sơ thức" (oportunidades y conocimientos iniciales), "cuộc vận động" (campaña) se convirtió en "cuộc đua vận động" (carrera de campaña), "27 hội nghị" (27 conferencias) se convirtieron en "27 "hội viện" (27 parlamentos)... Estos errores elementales aparecieron con considerable frecuencia, lo que indica que la revisión y verificación de los documentos antes de la firma no se llevaron a cabo de manera rigurosa.

Algunos términos técnicos del informe se emplearon incorrectamente o se distorsionaron gravemente, alterando por completo la naturaleza del contenido de la recomendación. Por ejemplo, la frase "fortalecimiento del eje de transporte del cinturón fronterizo" se cambió por "refuerzo del cinturón fronterizo"; "construcción de un vivero de plántulas" por "construcción de árboles jóvenes similares"; "plataforma de reuniones en línea" por "plataforma de exposiciones en línea"; y "ecosistema educativo " por "sistema de educación sobre actitudes biológicas".

Muchos aspectos de la gestión estatal también se malinterpretan, lo que dificulta su comprensión e implementación. Por ejemplo, la afirmación «detectó, verificó y gestionó 94 casos; inició procedimientos legales en 51 casos con 91 acusados» se modificó a «detectó, verificó y gestionó 94 tareas; inició 51 servicios y 91 dispositivos potenciales», lo que distorsiona por completo la información y plantea un riesgo significativo de malentendidos en el liderazgo y la gestión.

El informe también contiene errores como la ortografía incorrecta de los nombres de tareas científicas , programas y temas de investigación; la ortografía incorrecta de los nombres de reliquias y lugares de interés histórico y cultural; e incluso la distorsión de los nombres de documentos legales, agencias emisoras y contenido citado, lo que hace que el informe sea legalmente inválido e inutilizable.

Muchas opiniones sugieren que el mencionado "informe" presenta características propias del uso de herramientas en línea e IA en la redacción de documentos, pero sin ser controlado, revisado ni evaluado por personal profesional. Este es un fenómeno muy peligroso, ya que un departamento especializado, antes de emitir un informe consultivo, debe pasar por varios filtros, desde especialistas y departamentos funcionales hasta líderes. Sin embargo, estos filtros presentan problemas, lo que permite que un informe tan descuidado e irresponsable se filtre.

El incidente también demuestra que el usuario de la herramienta en línea, IA, que creó el "informe", infringió la Cláusula 2, Artículo 4 de la Ley de Inteligencia Artificial, relativa al principio fundamental de las operaciones de IA, que establece: "La IA sirve a la humanidad, no sustituye la autoridad ni la responsabilidad humanas. Garantiza el mantenimiento del control humano y la capacidad de intervenir en todas las decisiones y acciones del sistema de IA". En este caso, no se puede descartar que el funcionario externalizara completamente la elaboración del informe a la IA, dando como resultado el "producto" mencionado.

Tras el incidente, el presidente del Comité Popular local solicitó al director del departamento correspondiente que revisara y aclarara la causa, rectificara integralmente la labor de asesoramiento y reforzara el proceso de uso de la IA. Para todos, esta es también una lección importante sobre el uso de las herramientas digitales y la IA; es importante recordar que, en muchas actividades, la IA solo puede servir para apoyar a los humanos; debe ser supervisada, controlada y responsable por los humanos.

Fuente: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html