Lekcje wyciągnięte z wykorzystania sztucznej inteligencji

(PLVN) - Niedawny incydent, w którym Ludowy Komitet jednej z północnych prowincji wydał dokument w celu skorygowania pracy doradczej wyspecjalizowanego departamentu po odkryciu szeregu poważnych błędów w raporcie złożonym Ludowemu Komitetowi Prowincji; podejrzenie wykorzystania narzędzi internetowych i sztucznej inteligencji (AI); stanowi przestrogę dla wszystkich, którzy chcą korzystać z tych narzędzi.

Wcześniej raport przedkładany przez Departament Prowincjonalnemu Komitetowi Ludowemu zawierał liczne błędy ortograficzne, błędy techniczne, błędne interpretacje tematu i podstawowe nieścisłości dotyczące danych. Należą do nich błędy ortograficzne, pominięcia i zniekształcenia słów: „mở dữ liệu” (otwarte dane) stało się „mở dữ li” (otwarte dane li), „ươm tạo doanh nghiệp” (inkubowanie przedsiębiorstw) stało się „xà tạo” (inkubowanie), „cơ hội và thách thức” (szanse i wyzwania) stało się „cơ hội và sơ thức” (szanse i wstępna wiedza), „cuộc vận động” (kampania) zmieniło się w „cuộc đua vận động” (wyścig w kampanii), „27 hội nghị” (27 konferencje) stały się „27 hội viện” (27 parlamentami)... Te elementarne błędy pojawiały się dość często, co wskazuje na to, że przegląd i weryfikacja dokumentów przed podpisaniem nie były przeprowadzane rygorystycznie.

Niektóre terminy techniczne w raporcie zostały błędnie użyte lub poważnie zniekształcone, co całkowicie zmieniło charakter treści poradnika. Na przykład, zwrot „wzmocnienie osi transportowej pasa granicznego” zmieniono na „wzmocnienie pasa granicznego”; „budowanie szkółki sadzonek” na „budowanie podobnych sadzonek drzew”; „platforma spotkań online” na „platforma wystaw online”; a „ekosystem edukacyjny ” na „system edukacji w zakresie postaw biologicznych”.

Wiele aspektów zarządzania państwem jest również błędnie interpretowanych, co utrudnia zrozumienie i wdrożenie. Na przykład stwierdzenie „wykryto, zweryfikowano i rozpatrzono 94 sprawy; wszczęto postępowania sądowe w 51 sprawach z udziałem 91 oskarżonych” zostało zmienione na „wykryto, zweryfikowano i rozpatrzono 94 zadania; wszczęto 51 usług i 91 potencjalnych urządzeń”, co całkowicie zniekształca informacje i stwarza poważne ryzyko nieporozumień w kierownictwie i zarządzaniu.

W raporcie zawarto również błędy, takie jak błędne nazwy zadań naukowych , programów i tematów badawczych; błędne nazwy zabytków historycznych i kulturowych oraz obiektów zabytkowych; a nawet zniekształcone nazwy dokumentów prawnych, organów wydających i cytowanych treści, co sprawia, że ​​raport jest nieważny z prawnego punktu widzenia i bezużyteczny.

Wiele opinii sugeruje, że wspomniany „raport” wykazuje cechy wykorzystania narzędzi online i sztucznej inteligencji do tworzenia dokumentów, ale bez kontroli, przeglądu ani oceny przez profesjonalny personel. Jest to bardzo niebezpieczne zjawisko, ponieważ wyspecjalizowany dział, zanim wyda raport konsultacyjny, musi przejść przez kilka „filtrów”, od specjalistów i działów funkcyjnych po liderów. Jednak te „filtry” mają wady, przez które tak niedbały i nieodpowiedzialny raport może się prześlizgnąć.

Incydent pokazuje również, że użytkownik narzędzia online, AI, który utworzył „raport”, naruszył klauzulę 2 artykułu 4 ustawy o sztucznej inteligencji, dotyczącą fundamentalnej zasady działania AI, która stanowi: „AI służy ludzkości, nie zastępuje ludzkiej władzy i odpowiedzialności. Zapewnia utrzymanie ludzkiej kontroli i możliwości ingerencji we wszystkie decyzje i działania systemu AI”. W tym przypadku nie można wykluczyć, że urzędnik całkowicie zlecił AI sporządzenie raportu, co zaowocowało wspomnianym „produktem”.

Po incydencie przewodniczący lokalnego Komitetu Ludowego zwrócił się do dyrektora właściwego departamentu o przeanalizowanie i wyjaśnienie przyczyny, kompleksową korektę prac doradczych oraz usprawnienie procesu wykorzystywania sztucznej inteligencji. Dla wszystkich jest to również poważna lekcja dotycząca korzystania z narzędzi cyfrowych i sztucznej inteligencji; należy pamiętać, że sztuczna inteligencja w wielu działaniach może jedynie wspierać ludzi; musi być przez nich kontrolowana, kontrolowana i rozliczana.

Źródło: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html