Ponaučení z používání umělé inteligence

Zpráva, kterou ministerstvo dříve předložilo provinčnímu lidovému výboru, obsahovala četné pravopisné chyby, technické chyby, nesprávné interpretace tématu a zásadní nepřesnosti v údajích. Jednalo se o překlepy, vynechání a zkomolení slov: „mở dữ liệu“ (otevřená data) se změnilo na „mở dữ li“ (otevřená data li), „ươm tạo doanh nghiệp“ (inkubační podniky) se změnilo na „xà tỺ vàơƻách hincatingo“ thức" (příležitosti a výzvy) se změnilo na "cơ hội và sơ thức" (příležitosti a počáteční znalosti), "cuộc vận động" (kampaň) se změnilo na "cuộc đua vận ộngh race" ("7cam" ("icam" (27 konferencí) se stal „27 hội viện“ (27 parlamentů)... Tyto elementární chyby se objevovaly se značnou frekvencí, což naznačuje, že kontrola a ověřování dokumentů před podpisem nebyly prováděny důsledně.

Některé odborné termíny ve zprávě byly zneužity nebo silně zkresleny, což zcela změnilo povahu obsahu poradenství. Například fráze „posílení dopravní osy pohraničního pásu“ byla změněna na „zpevnění pohraničního pásu“; „vybudování sazenicové školky“ na „výstavba podobných sazenic stromů“; „platforma pro online setkání“ na „platforma pro online výstavy“; a „ vzdělávací ekosystém“ na „systém vzdělávání v oblasti biologických postojů“.

Mnoho aspektů státní správy je také nesprávně interpretováno, což brání pochopení a implementaci. Například tvrzení „odhaleno, ověřeno a vyřešeno 94 případů; zahájeno soudní řízení v 51 případech týkajících se 91 obžalovaných“ bylo změněno na „odhaleno, ověřeno a vyřešeno 94 úkolů; zahájeno 51 služeb a 91 potenciálních zařízení“, což zcela zkresluje informace a představuje značné riziko nedorozumění ve vedení a managementu.

Zpráva také obsahuje chyby, jako jsou překlepy v názvech vědeckých úkolů, programů a výzkumných témat; překlepy v názvech historických a kulturních památek; a dokonce i zkomolené názvy právních dokumentů, vydávajících agentur a citovaného obsahu, což činí zprávu právně neplatnou a nepoužitelnou.

Mnoho názorů naznačuje, že výše zmíněná „zpráva“ vykazuje charakteristiky používání online nástrojů a umělé inteligence při tvorbě dokumentů, ale bez kontroly, kontroly nebo hodnocení odbornými pracovníky. To je velmi nebezpečný jev, protože specializované oddělení musí před vydáním konzultační zprávy projít několika „filtry“, od specialistů a funkčních oddělení až po vedoucí. Tyto „filtry“ však mají problémy a umožňují, aby taková nedbalá a nezodpovědná zpráva proklouzla.

Incident rovněž ukazuje, že uživatel online nástroje AI, který „zprávu“ vytvořil, porušil ustanovení 2 článku 4 zákona o umělé inteligenci, které se týká základního principu fungování AI, který zní: „AI slouží lidstvu, nenahrazuje lidskou autoritu a odpovědnost. Zajišťuje zachování lidské kontroly a schopnost zasahovat do všech rozhodnutí a činností systému AI.“ V tomto případě nelze vyloučit, že úředník práci na vytváření zprávy zcela zadal AI, což vedlo k výše zmíněnému „produktu“.

Po incidentu požádal předseda místního lidového výboru ředitele příslušného odboru, aby přezkoumal a objasnil příčinu, komplexně napravil poradenskou práci a zpřísnil proces používání umělé inteligence. Pro všechny je to také vážné ponaučení o používání digitálních nástrojů a umělé inteligence; je důležité si uvědomit, že umělá inteligence v mnoha činnostech může sloužit pouze na podporu lidí; musí být kontrolována, řízena a odpovědná lidmi.

Komentář (0)