Уроки, отримані з використання ШІ

(PLVN) – Нещодавній інцидент, коли Народний комітет північної провінції видав документ про виправлення консультативної роботи спеціалізованого відділу після виявлення низки серйозних помилок у звіті, поданому до Народного комітету провінції; підозра у використанні онлайн-інструментів та штучного інтелекту (ШІ); служить уроком для всіх, хто користується цими інструментами.

Раніше звіт, поданий Департаментом до Провінційного народного комітету, містив численні орфографічні помилки, технічні помилки, неправильне тлумачення теми та фундаментальні неточності даних. Серед них орфографічні помилки, пропуски та спотворення слів: «mở dữ liệu» (відкриті дані) став «mở dữ li» (відкриті дані li), «ươm tạo doanh nghiệp» (інкубаційний бізнес) став «xà tạo» (інкубаційний), «cơ hội và thách thức» (можливості та виклики) став «cơ hội và sơ thức» (можливості та початкові знання), «cuộc vận động» (кампанія) став «cuộc đua vận động» (гонка кампанії), «27 hội nghị» (27 конференцій) став «27 hội в'єн" (27 парламентів)... Ці елементарні помилки траплялися досить часто, що свідчить про те, що перегляд та перевірка документів перед підписанням не проводилися ретельно.

Деякі технічні терміни у звіті були використані неправильно або суттєво спотворені, що повністю змінило характер змісту рекомендацій. Наприклад, фразу «зміцнення транспортної осі прикордонної смуги» було змінено на «зміцнення прикордонної смуги»; «будівництво розсадника» на «будівництво подібних саджанців дерев»; «платформу для онлайн-зустрічей» на «платформу для онлайн-виставок»; а « освітню екосистему» ​​на «систему біологічної освіти».

Багато аспектів державного управління також неправильно тлумачаться, що перешкоджає розумінню та впровадженню. Наприклад, твердження «виявлено, перевірено та розглянуто 94 справи; розпочато судове провадження у 51 справі за участю 91 відповідача» було змінено на «виявлено, перевірено та розглянуто 94 завдання; ініційовано 51 послугу та 91 потенційний пристрій», що повністю спотворює інформацію та створює значний ризик непорозумінь у керівництві та управлінні.

Звіт також містить такі помилки, як неправильне написання назв наукових завдань, програм та тем досліджень; неправильне написання назв історичних та культурних реліквій та пам'яток; і навіть спотворення назв юридичних документів, установ, що їх видали, та цитованого змісту, що робить звіт юридично недійсним та непридатним для використання.

Багато думок свідчать про те, що вищезгаданий «звіт» демонструє характеристики використання онлайн-інструментів та штучного інтелекту у складанні документів, але без контролю, перегляду чи оцінки професійним персоналом. Це дуже небезпечне явище, оскільки спеціалізований відділ, перш ніж видати консультативний звіт, повинен пройти через кілька «фільтрів» – від спеціалістів та функціональних відділів до керівників. Однак ці «фільтри» мають проблеми, що дозволяють такому недбалому та безвідповідальному звіту прослизнути крізь нього.

Інцидент також показує, що користувач онлайн-інструменту ШІ, який створив «звіт», порушив пункт 2 статті 4 Закону про штучний інтелект щодо фундаментального принципу в роботі ШІ, який говорить: «ШІ служить людству, не замінює людську владу та відповідальність. Він забезпечує підтримку людського контролю та можливість втручання в усі рішення та дії системи ШІ». У цьому випадку не можна виключати, що посадовець повністю передав роботу зі складання звіту ШІ, що призвело до появи вищезгаданого «продукту».

Після інциденту голова місцевого народного комітету звернувся до директора відповідного департаменту з проханням розглянути та з'ясувати причину, всебічно виправити консультативну роботу та посилити процес використання штучного інтелекту. Для всіх це також серйозний урок щодо використання цифрових інструментів та штучного інтелекту; важливо пам'ятати, що штучний інтелект у багатьох видах діяльності може служити лише для підтримки людей; він повинен перевірятися, контролюватися та нести відповідальність за нього люди.

Джерело: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html