Se upp för AI:s mörka sida

Trots sina obestridliga fördelar väcker artificiell intelligens (AI) brådskande etiska frågor. Det är värt att notera att det inom vetenskaplig forskning finns mycket statistik som visar att missbruk av AI kan leda till oförutsägbara fördomar.

Workshop för att bidra med idéer för att finslipa lagförslaget om artificiell intelligens (AI). (Foto: HUONG NGUYEN)

Den senaste tidens incidenter som rör partiskhet och dokumentförfalskning har fått forskare att ompröva den lämpliga nivån av AI-inblandning i forskning.

Nyligen delade professor, doktor i lingvistik Nguyen Van Hiep med sig av en berättelse på sin personliga sida som chockade läsarna. Han upptäckte att AI hade förfalskat hans dokument med information som skickats av en vän. Han upptäckte också av en slump att artikeln av docent, doktor i naturvetenskap Tran Van Co också var förfalskad av AI.

AI har blivit en oumbärlig del av mänskligt liv, men experter betonar alltid att vi endast bör se AI som ett stödjande verktyg. AI-användare måste alltid vara uppmärksamma och kunniga för att bearbeta data och utvärdera resultaten som erhållits efter att ha "samarbetat" med AI. Särskilt inom vetenskaplig forskning har många studier visat att det största problemet som man måste vara uppmärksam på är partiskhet i data och modeller. AI kan vara partisk, förvränga analysresultat, skapa fördomar eller diskriminering och manipulera information om den inte kontrolleras väl.

Särskilt användningen av AI inom samhällsvetenskaplig forskning kräver mycket större försiktighet. Eftersom samhällsvetenskapliga områden som filosofi, lingvistik, etnologi, historia etc. alla tar mänskligt beteende, kultur och beteende som forskningsobjekt, är data ofta nära knutna till den vietnamesiska sociokulturella kontexten, med djup och specificitet. Om AI-träningsdata återspeglar historiska fördomar är faran att AI kan dra slutsatser som förvärrar problem med ojämlikhet mellan kön, klass, ras eller geografisk region. Risken är ännu större när AI används för att analysera mänskligt beteende, svara på öppna undersökningar eller delta i medieinnehåll.

Enligt vissa samhällsvetenskapliga experter har AI för närvarande svårt att få tillgång till upphovsrättsskyddade eller betalda datakällor, vilket resulterar i ofullständigt uppdaterad information.

Fenomenet att fabricera dokument för att skapa trovärdiga berättelser förekommer ofta inom mindre populära ämnen, på språk med begränsade datakällor som vietnamesiska, och bör varnas för att varna användare. AI-system i allmänhet är för närvarande mycket begränsade i att förstå sociala och kulturella sammanhang, så deras hjälp med att tolka tvetydig, metaforrik samhällsvetenskaplig kunskap är inte riktigt tillförlitlig.

Även om det medför stor potential inom vetenskaplig forskning, måste tillämpningen av AI vara mycket försiktig, har begränsningar och måste alltid gå hand i hand med forskarens kritiska tänkande förmåga.

Det kan konstateras att även om AI medför stor potential inom vetenskaplig forskning, måste tillämpningen av AI vara mycket försiktig, begränsad och alltid åtföljd av forskarens kritiska kapacitet. Den som använder AI måste tydligt identifiera dessa begränsningar i användningen av AI och säkerställa att AI inte förändrar vetenskapens kärnvärden. För att skydda den vetenskapliga forskningens integritet måste forskarnas roll och ansvar höjas till en ny nivå. Dessutom är det nödvändigt att föreslå ett rättsligt bindande etiskt ramverk för AI i samband med vietnamesisk kultur, traditioner och sociala normer.

Vi har ett system med nio principer för att främja forskning och utveckling av säkra och ansvarsfulla AI-system, begränsa negativa effekter och kontrollera risker, föreslaget av ministeriet för vetenskap och teknik , vilket betonar datasäkerhet samt respekt för mänskliga rättigheter och värdighet, samt ansvarsskyldighet för AI-användare. Särskilt inom vetenskaplig forskning utfärdade det statliga professorsrådet också officiell rapport nr 25/HDGSNN år 2023, där man begär att råd för professorstitel inom industrin och anläggningar för att bedöma kvaliteten på vetenskapliga arbeten ska ägna särskild uppmärksamhet åt att upptäcka och utvärdera arbeten som använder eller assisteras av AI-teknik. Dessa krav syftar till att säkerställa att forskningsresultat som använder AI fortfarande uppfyller vetenskapliga standarder, vilket förhindrar missbruk av AI i vetenskaplig forskning och publicering.

I framtiden, när lagen om artificiell intelligens utfärdas, med strikta regler relaterade till etik och ansvar vid användning av AI, kommer den att bidra till att skapa en hälsosam miljö för AI-utveckling och ge mer aktivt och ansvarsfullt stöd till forskare i forskningsarbete.

Dansfestival

Källa: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html