Het rapport dat het departement eerder aan het Provinciaal Volkscomité had voorgelegd, bevatte talrijke spelfouten, technische fouten, verkeerde interpretaties van de inhoud en fundamentele onnauwkeurigheden in de gegevens. Deze omvatten spelfouten, weglatingen en verdraaiingen van woorden: "mở dữ liệu" (open data) werd "mở dữ li" (open data li), "ươm tạo doanh nghiệp" (incubatiebedrijven) werd "xà tạo" (incubatie), "cơ hội và thách thức" (kansen en uitdagingen) werd "cơ hội và sơ thức" (kansen en initiële kennis), "cuộc vận động" (campagne) werd "cuộc đua vận động" (campagnerace), "27 hội nghị" (27 conferenties) werd "27 hội viện" (27 parlementen)... Deze elementaire fouten kwamen met aanzienlijke frequentie voor, wat erop wijst dat de controle en verificatie van documenten vóór ondertekening niet rigoureus werden uitgevoerd.
Sommige technische termen in het rapport werden verkeerd gebruikt of ernstig verdraaid, waardoor de aard van de adviesinhoud volledig werd veranderd. Zo werd de zinsnede "versterking van de transportas langs de grens" veranderd in "versterking van de grensgordel"; "het bouwen van een zaailingenkwekerij" in "het kweken van soortgelijke boomzaailingen"; "online vergaderplatform" in "online tentoonstellingsplatform"; en " educatief ecosysteem" in "biologisch houdingsonderwijssysteem".
Veel aspecten van het staatsbestuur worden ook verkeerd geïnterpreteerd, wat het begrip en de implementatie belemmert. Zo werd de verklaring "94 zaken opgespoord, geverifieerd en afgehandeld; in 51 zaken met 91 verdachten een rechtszaak aangespannen" gewijzigd in "94 taken opgespoord, geverifieerd en afgehandeld; 51 diensten en 91 potentiële apparaten geïnitieerd", waardoor de informatie volledig werd verdraaid en een aanzienlijk risico op misverstanden bij leidinggevenden en managers ontstond.
Het rapport bevat ook fouten, zoals spelfouten in de namen van wetenschappelijke taken, programma's en onderzoeksonderwerpen; spelfouten in de namen van historische en culturele artefacten en monumenten; en zelfs verdraaiingen van de namen van juridische documenten, uitgevende instanties en geciteerde inhoud, waardoor het rapport juridisch ongeldig en onbruikbaar is.
Veel mensen denken dat het eerdergenoemde "rapport" kenmerken vertoont van het gebruik van online tools en AI bij het opstellen van documenten, maar zonder dat deze door professioneel personeel zijn gecontroleerd, beoordeeld of geëvalueerd. Dit is een zeer gevaarlijk verschijnsel, omdat een gespecialiseerde afdeling, voordat een adviesrapport wordt uitgebracht, verschillende "filters" moet doorlopen, van specialisten en functionele afdelingen tot leidinggevenden. Deze "filters" vertonen echter gebreken, waardoor een dergelijk onzorgvuldig en onverantwoordelijk rapport erdoorheen kan glippen.
Het incident toont ook aan dat de gebruiker van de online tool, de AI die het "rapport" opstelde, artikel 4, lid 2, van de Wet op de Kunstmatige Intelligentie heeft overtreden. Dit artikel betreft het fundamentele principe van AI-werking, dat luidt: "AI dient de mensheid en vervangt geen menselijk gezag en verantwoordelijkheid. Het waarborgt het behoud van menselijke controle en de mogelijkheid om in te grijpen in alle beslissingen en handelingen van het AI-systeem." In dit geval kan niet worden uitgesloten dat de ambtenaar het opstellen van het rapport volledig aan de AI heeft uitbesteed, met het eerdergenoemde "product" als resultaat.
Naar aanleiding van het incident verzocht de voorzitter van het lokale Volkscomité de directeur van de betreffende afdeling om de oorzaak te onderzoeken en te verduidelijken, het advieswerk grondig te herzien en de procedures voor het gebruik van AI aan te scherpen. Voor iedereen is dit tevens een belangrijke les over het gebruik van digitale tools en AI; het is belangrijk te onthouden dat AI in veel gevallen slechts ter ondersteuning van de mens kan dienen; het moet door mensen worden gecontroleerd, beheerd en beoordeeld.
Bron: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html
Reactie (0)