Lärdomar från att använda AI

Tidigare innehöll den rapport som departementet lämnat in till den provinsiella folkkommittén ett flertal stavfel, tekniska fel, feltolkningar av ämnet och grundläggande datafelaktigheter. Dessa inkluderade felstavningar, utelämnanden och förvrängningar av ord: "mở dữ liệu" (öppna data) blev "mở dữ li" (öppna data li), "ươm tạo doanh nghiệp" (inkuberande företag) blev "xà tạo" (inkuberande företag) thức" (möjligheter och utmaningar) blev "cơ hội và sơ thức" (möjligheter och initial kunskap), "cuộc vận động" (kampanj) blev "cuộc đua vận động h ras"), (động hạn race") nghị" (27 konferenser) blev "27 hội viện" (27 parlament)... Dessa grundläggande fel uppstod med avsevärd frekvens, vilket tyder på att granskningen och verifieringen av dokument före undertecknande inte utfördes rigoröst.

Vissa tekniska termer i rapporten har använts felaktigt eller förvrängts allvarligt, vilket fullständigt förändrade innehållet i den rådgivande texten. Till exempel ändrades frasen "stärka transportaxeln i gränsbältet" till "förstärkning av gränsbältet"; "bygga en plantskola" till "bygga liknande trädplantor"; "plattform för onlinemöten" till "plattform för onlineutställningar"; och " pedagogiskt ekosystem" till "system för utbildning om biologiska attityder".

Många aspekter av statlig förvaltning misstolkas också, vilket hindrar förståelse och implementering. Till exempel ändrades påståendet "upptäckte, verifierade och hanterade 94 fall; inledde rättsliga förfaranden i 51 fall som involverade 91 svarande" till "upptäckte, verifierade och hanterade 94 uppgifter; initierade 51 tjänster och 91 potentiella enheter", vilket förvränger informationen fullständigt och utgör en betydande risk för missförstånd inom ledarskap och ledning.

Rapporten innehåller också fel som felstavning av namnen på vetenskapliga uppgifter, program och forskningsämnen; felstavning av namnen på historiska och kulturella lämningar och landmärken; och till och med förvrängning av namnen på juridiska dokument, utfärdande myndigheter och citerat innehåll, vilket gör rapporten juridiskt ogiltig och oanvändbar.

Många åsikter tyder på att den tidigare nämnda "rapporten" uppvisar drag av att använda onlineverktyg och AI vid dokumentutformning, men utan att kontrolleras, granskas eller utvärderas av professionell personal. Detta är ett mycket farligt fenomen, eftersom en specialiserad avdelning, innan den utfärdar en konsultativ rapport, måste gå igenom flera "filter", från specialister och funktionella avdelningar till ledare. Dessa "filter" har dock problem, vilket gör att en sådan slarvig och oansvarig rapport kan slinka igenom.

Händelsen visar också att användaren av onlineverktyget, AI, som skapade "rapporten" bröt mot paragraf 2, artikel 4 i lagen om artificiell intelligens, gällande den grundläggande principen i AI-verksamhet, som säger: "AI tjänar mänskligheten, ersätter inte mänsklig auktoritet och ansvar. Den säkerställer upprätthållandet av mänsklig kontroll och möjligheten att ingripa i alla beslut och handlingar i AI-systemet." I det här fallet kan det inte uteslutas att tjänstemannen helt outsourcade rapportarbetet till AI:n, vilket resulterade i den tidigare nämnda "produkten".

Efter händelsen bad ordföranden för den lokala folkkommittén chefen för den berörda avdelningen att granska och klargöra orsaken, heltäckande åtgärda rådgivningsarbetet och skärpa processen för användning av AI. För alla är detta också en allvarlig läxa om användningen av digitala verktyg och AI; det är viktigt att komma ihåg att AI i många verksamheter bara kan tjäna till att stödja människor; den måste kontrolleras, kontrolleras och ansvaras av människor.

Källa: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html