Vær oppmerksom på den mørke siden av AI

Til tross for sine udiskutable fordeler, reiser kunstig intelligens (KI) presserende etiske spørsmål. Det er verdt å merke seg at det innen vitenskapelig forskning har vært mye statistikk som viser at misbruk av KI kan føre til uforutsigbare skjevheter.

Workshop for å bidra med ideer for å perfeksjonere lovutkastet om kunstig intelligens (KI). (Foto: HUONG NGUYEN)

Nylige hendelser som involverer skjevhet og forfalskning av dokumenter har fått forskere til å revurdere det passende nivået av AI-involvering i forskning.

Nylig delte professor, dr. i lingvistikk, Nguyen Van Hiep en historie som sjokkerte leserne på sin personlige side. Han oppdaget at kunstig intelligens hadde forfalsket dokumentene hans i informasjon sendt av en venn. Han oppdaget også ved et uhell at artikkelen til førsteamanuensis, dr. i naturvitenskap, Tran Van Co, også var forfalsket av kunstig intelligens.

AI har blitt en uunnværlig del av menneskelivet, men eksperter understreker alltid at vi kun bør se på AI som et støtteverktøy. AI-brukere må alltid være årvåkne og kunnskapsrike for å behandle data og evaluere resultatene som oppnås etter å ha "samarbeidet" med AI. Spesielt innen vitenskapelig forskning har mange studier vist at det største problemet man må være på vakt mot, er skjevheter i data og modeller. AI kan være partisk, forvrenge analyseresultater, skape fordommer eller diskriminering, og manipulere informasjon hvis den ikke kontrolleres godt.

Spesielt krever bruk av AI i samfunnsvitenskapelig forskning mye større forsiktighet. Fordi felt innen samfunnsvitenskap som filosofi, lingvistikk, etnologi, historie osv. alle tar menneskelig atferd, kultur og oppførsel som forskningsobjekter, er dataene ofte nært knyttet til den vietnamesiske sosiokulturelle konteksten, med dybde og spesifisitet. Hvis AI-opplæringsdata gjenspeiler historiske fordommer, er faren som kan oppstå at AI kan trekke konklusjoner som forverrer problemer med ulikhet mellom kjønn, klasse, rase eller geografisk region. Risikoen er enda større når AI brukes til å analysere menneskelig atferd, svare på åpne spørreundersøkelser eller delta i medieinnhold.

Ifølge noen samfunnsvitenskapelige eksperter har AI for tiden problemer med å få tilgang til opphavsrettsbeskyttede eller betalte datakilder, noe som resulterer i ufullstendig oppdatert informasjon.

Fenomenet med å fabrikkere dokumenter for å lage troverdige historier forekommer ofte i mindre populære emner, på språk med begrensede datakilder som vietnamesisk, og bør advares for å varsle brukere. AI-systemer generelt har for tiden svært begrenset forståelse av sosial og kulturell kontekst, så deres hjelp til å tolke tvetydig, metaforrik samfunnsvitenskapelig kunnskap er ikke egentlig pålitelig.

Selv om det bringer mye potensial innen vitenskapelig forskning, må anvendelsen av AI være svært forsiktig, har begrensninger og må alltid gå hånd i hånd med forskerens kritiske tenkeevne.

Det kan sees at selv om det bringer med seg et stort potensial innen vitenskapelig forskning, må bruken av AI være svært forsiktig, begrenset og alltid ledsaget av forskerens kritiske kapasitet. Personen som bruker AI må tydelig identifisere disse begrensningene i bruken av AI, og sikre at AI ikke endrer kjerneverdiene i vitenskapen. For å beskytte integriteten til vitenskapelig forskning må forskernes rolle og ansvar heves til et nytt nivå. I tillegg er det nødvendig å foreslå et juridisk bindende etisk rammeverk for AI i sammenheng med vietnamesisk kultur, tradisjoner og sosiale normer.

Vi har et system med ni prinsipper for å fremme forskning og utvikling av trygge og ansvarlige AI-systemer, begrense negative konsekvenser og kontrollere risikoer foreslått av Vitenskaps- og teknologidepartementet , som vektlegger datasikkerhet samt respekt for menneskerettigheter og verdighet, og ansvarlighet for AI-brukere. Spesielt innen vitenskapelig forskning utstedte Statens professorråd også offisiell melding nr. 25/HDGSNN i 2023, som ba om at tittelråd for professorer i industrien og fasiliteter for vurdering av kvaliteten på vitenskapelige arbeider skal legge spesiell vekt på å oppdage og evaluere arbeider som bruker eller assisteres av AI-teknologi. Disse kravene tar sikte på å sikre at forskningsresultater som bruker AI fortsatt oppfyller vitenskapelige standarder, og forhindre misbruk av AI i vitenskapelig forskning og publisering.

Når loven om kunstig intelligens blir vedtatt i fremtiden, med strenge regler knyttet til etikk og ansvar ved bruk av kunstig intelligens, vil den bidra til å skape et sunt miljø for utvikling av kunstig intelligens, og gi mer aktiv og ansvarlig støtte til forskere i forskningsarbeid.

Dansefestival

Kilde: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html