Leksjoner lært ved bruk av AI

Tidligere inneholdt rapporten som departementet sendte til den provinsielle folkekomiteen en rekke stavefeil, tekniske feil, feiltolkninger av emnet og grunnleggende datafeil. Disse inkluderte stavefeil, utelatelser og forvrengninger av ord: "mở dữ liệu" (åpne data) ble til "mở dữ li" (åpne data li), "ươm tạo doanh nghiệp" (inkuberende virksomheter) ble "xà tạo" (inkuberende virksomheter) ble til "xà tạo" thức" (muligheter og utfordringer) ble til "cơ hội và sơ thức" (muligheter og innledende kunnskap), "cuộc vận động" (kampanje) ble til "cuộc đua vận động hạn race" (động hạn race") nghị" (27 konferanser) ble "27 hội viện" (27 parlamenter)... Disse elementære feilene dukket opp med betydelig hyppighet, noe som indikerer at gjennomgangen og verifiseringen av dokumenter før signering ikke ble utført grundig.

Enkelte tekniske termer i rapporten ble misbrukt eller alvorlig forvrengt, noe som fullstendig endret innholdet i den rådgivende veiledningen. For eksempel ble uttrykket «styrking av transportaksen i grenseområdet» endret til «forsterkning av grenseområdet»; «bygging av et planteskoleanlegg» til «bygging av lignende treplanter»; «nettmøteplattform» til «nettutstillingsplattform»; og « pedagogisk økosystem» til «opplæringssystem for biologiske holdninger».

Mange aspekter ved statlig forvaltning blir også feiltolket, noe som hindrer forståelse og implementering. For eksempel ble utsagnet «oppdaget, verifisert og håndtert 94 saker; igangsatt rettslige skritt i 51 saker som involverte 91 tiltalte» endret til «oppdaget, verifisert og håndtert 94 oppgaver; igangsatt 51 tjenester og 91 potensielle enheter», noe som forvrenger informasjonen fullstendig og utgjør en betydelig risiko for misforståelser i ledelse og administrasjon.

Rapporten inneholder også feil, som feilstaving av navnene på vitenskapelige oppgaver, programmer og forskningsemner, feilstaving av navnene på historiske og kulturelle relikvier og landemerker, og til og med forvrengning av navnene på juridiske dokumenter, utstedende etater og sitert innhold, noe som gjør rapporten juridisk ugyldig og ubrukelig.

Mange meninger antyder at den nevnte «rapporten» viser trekk ved bruk av nettbaserte verktøy og kunstig intelligens i dokumentutarbeidelse, men uten å bli kontrollert, gjennomgått eller evaluert av profesjonelt personale. Dette er et svært farlig fenomen, fordi en spesialisert avdeling, før den utsteder en rådgivende rapport, må gå gjennom flere «filtre», fra spesialister og funksjonelle avdelinger til ledere. Disse «filtrene» har imidlertid problemer, som gjør at en så uforsiktig og uansvarlig rapport slipper gjennom.

Hendelsen viser også at brukeren av nettverktøyet, AI, som opprettet «rapporten», brøt paragraf 2, artikkel 4 i loven om kunstig intelligens, angående det grunnleggende prinsippet i AI-operasjoner, som sier: «AI tjener menneskeheten, erstatter ikke menneskelig autoritet og ansvar. Den sikrer opprettholdelse av menneskelig kontroll og evnen til å gripe inn i alle beslutninger og handlinger i AI-systemet.» I dette tilfellet kan det ikke utelukkes at tjenestemannen fullstendig outsourcet rapportarbeidet til AI-en, noe som resulterte i det nevnte «produktet».

Etter hendelsen ba lederen av den lokale folkekomiteen direktøren for den aktuelle avdelingen om å gjennomgå og avklare årsaken, utbedre rådgivningsarbeidet på en omfattende måte og stramme inn prosessen med bruk av kunstig intelligens. For alle er dette også en alvorlig lærdom om bruk av digitale verktøy og kunstig intelligens. Det er viktig å huske at kunstig intelligens i mange aktiviteter bare kan tjene til å støtte mennesker. Den må kontrolleres, kontrolleres og holdes ansvarlig av mennesker.

Kilde: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html