"Varför är AI farligt?"

Faktum är att detta inte är första gången forskare har varnat för den potentiella faran med artificiell intelligens för mänskligheten. År 2014 uttalade den berömde brittiske teoretiska fysikern Stephen Hawking: "Den fullständiga utvecklingen av artificiell intelligens skulle kunna förgöra mänskligheten." Han förutspådde också att mänskligheten skulle vara helt ersatt av artificiell intelligens inom 500 år om försiktighet inte iakttogs i forskningen och utvecklingen av denna farliga teknik. För åtta år sedan, i juli 2015, undertecknade mer än 1 000 experter inom artificiell intelligens-teknik, inklusive Stephen Hawking, Elon Musk, Noam Chomsky och andra, en namninsamling som varnade för risken för en kapprustning inom militär AI och krävde ett fullständigt förbud mot autonoma vapen (som kombinerar AI och dödliga vapen). OpenAI:s lansering av applikationen Chat GPT i november 2022 lade till ytterligare en varningsklocka angående de inneboende farorna med artificiell intelligens. Faktum är att det Chat GPT gör visar att AI, till viss del, har blivit mycket farligare än man en gång trodde.

De potentiella riskerna med artificiell intelligens beror på hur den används. Ursprungligen utvecklades AI för att hjälpa människor i deras arbete, särskilt med tråkiga, repetitiva uppgifter som bildklassificering och informationsgranskning. Men med den snabba utvecklingen av AI på senare tid är forskare och teknikexperter oroliga för att artificiell intelligens kan få allvarliga konsekvenser för mänskligheten och samhället om den utvecklas okontrollerat eller programmeras för fel ändamål.

Risk för osäkerhet

Artificiell intelligens kan bli ett hot mot nationell säkerhet och personlig trygghet. Elon Musk har varnat för att AI kan bli ett skrämmande verktyg i krigföring. Om en nation kan utveckla ett överlägset system för artificiell intelligens kan den använda det för att attackera andra nationer. Professor Stuart Russell, en datavetenskapsprofessor vid University of California som har ägnat årtionden åt att forska om artificiell intelligens, varnar för säkerhetshotet som AI utgör och säger att vi nu kan producera autonoma vapen genom att integrera och miniatyrisera befintlig teknik.

Experimentet, som utfördes av professor Stuart Russell och Future Life Research Institute (FLI), använde en slaktrobot – en mikroskopisk flygande anordning utrustad med kameror, sensorer, bildbehandlingsprogram, ansiktsigenkänning, en 3-grams sprängladdning och en höghastighetsmikroprocessor som möjliggör dataanalys och reaktioner 100 gånger snabbare än den mänskliga hjärnan. Enligt sina programmerade parametrar använder slaktroboten kontinuerligt molndata för att söka efter information om sitt mål och hitta ett sätt att närma sig det. När den väl hittats rusar den mot målet i hög hastighet, detonerar 3-grams sprängladdningen och tränger djupt in i skallen, vilket dödar offret omedelbart.

Det där var bara ett experiment med AI på dess enklaste nivå. Om AI används för att utveckla nya, mer sofistikerade attackmetoder, skulle det också kunna öka angriparnas attackkapacitet och leda till allvarligare konsekvenser än konventionella attacker. När AI utvecklas till den grad att den kan fatta sina egna beslut för att hantera förändrade miljöer, eller självständigt söka efter alternativa mål, eller utöka sitt målområde, då kanske mänskligheten inte längre är säker. Många kollegor inom detta område håller med professor Stuart Russell och tror att det fortfarande finns en chans att förhindra en så dyster framtid, men vi har egentligen inte mycket tid kvar.

Risken är att AI blir organiserad, autonom och kontrollerar systemet.

AI kan vara felaktigt utformad eller felaktigt "tränad" genom maskininlärning, vilket potentiellt kan leda till oavsiktliga handlingar som skadar människor och miljön. Till exempel, med maskininlärning, blir AI alltmer intelligent. När artificiell intelligens når en intelligensnivå där den stöder kritiska system som kraft, transport, sjukvård och finans, kan den behärska och kontrollera hela dessa system, fatta sina egna beslut och verkställa dem i nödsituationer. Men när AI är "utrustad" med illvilliga avsikter (felaktigt utformad) kan den orsaka allvarliga konsekvenser, såsom att störa trafiksystem genom att inaktivera trafikljus eller stänga av strömmen till stadsjärnvägssystem, vilket orsakar kedjeolyckor och omfattande strömavbrott.

Många Hollywood- och internationella filmer har baserats på detta scenario. Men med dagens AI-teknik är detta inte längre en avlägsen möjlighet utan fullt möjligt. Elon Musk tror att om AI tillåts utvecklas okontrollerat, till den grad att den kan automatisera beslut utan mänsklig inblandning, kan det utgöra ett hot mot mänsklighetens överlevnad. Det är därför han, tillsammans med tusentals teknikexperter, undertecknade ett brev som kräver ett stopp för och strikt kontroll över AI-utvecklingen på ett transparent sätt. Enligt Elon Musk är artificiell intelligens-system komplexa, svåra att förstå och att kontrollera dem är mycket utmanande. Utan transparens är användningen av artificiell intelligens för oetiska syften, vilket orsakar skada för mänskligheten, oundviklig.

Risk för arbetsförlust, kränkning av rättigheterna till integritet.

När artificiell intelligens används för att samla in personlig information kan den användas för att kränka integriteten, genomföra desinformationskampanjer och sprida felinformation som påverkar social ordning och politisk stabilitet. Hackningen av det amerikanska Office of Personnel Management (OPM) nätverk är en betydande oro för alla länder eller organisationer, eftersom den komprometterade detaljerade och mycket känsliga personuppgifter för 21,5 miljoner nuvarande och pensionerade amerikanska tjänstemän, inklusive information om deras makar och data om statliga jobbansökningar såsom hälsostatus, bosättning, yrke, fingeravtryck och finansiell information. Ett ännu mer alarmerande faktum framkom dock när CIA upptäckte att förövarna av OPM-datastölden använde artificiell intelligens för att förfalska personlig information och skapa virtuella agenter för att stjäla data. När informationen väl är stulen kommer den att analyseras, kategoriseras och utnyttjas för specifika ändamål med hjälp av stordatateknik. Artificiell intelligens hjälper informationstjuvarna att förkorta den tid det tar att utnyttja informationen eftersom människor inte kan bearbeta en så massiv mängd information på så kort tid.

Förutom de ovannämnda inneboende farorna skapar AI-teknik även andra risker, såsom överdriven beroende av den, vilket leder till förlust av kontroll över situationer och minskad beslutsförmåga. Artificiell intelligens kommer också att orsaka att miljontals, till och med hundratals miljoner, människor förlorar sina jobb, särskilt i rent manuella arbeten med lågt kunskapsinnehåll. Konsekvensen blir att allvarliga sociala problem som arbetslöshet, brottslighet och klyftan mellan rika och fattiga kommer att bli ännu mer uttalade. Dessutom är tillförlitlighet också en avgörande fråga. Tillförlitligheten i beslut inom högspecialiserade områden som hälso- och sjukvård och straffrätt är oerhört viktig. När man använder AI för att hjälpa till med beslutsfattande inom dessa områden, om tekniken inte är tillräckligt tillförlitlig, fungerar baserat på data som tenderar att gynna en eller en grupp människor, eller avsiktligt förvrängs, kan dessa beslut potentiellt få allvarliga konsekvenser.

Hur kan vi förhindra detta?

De ovannämnda riskerna är anledningen till att Elon Musk och teknikexperter är oroade över den okontrollerade utvecklingen av AI och har skrivit brev där de uppmanar FN och internationella organisationer att strikt kontrollera, säkerställa säkerhet och etik i AI-utvecklingen; och stärka det internationella samarbetet för att säkerställa att AI-teknik används på ett gynnsamt sätt för mänskligheten och samhället. Några specifika åtgärder som kan nämnas inkluderar:

- Kontroll av systemtillförlitlighet: AI behöver utformas och utvecklas för att säkerställa säkerhet och tillförlitlighet genom rigorösa, frekventa och kontinuerliga kvalitetskontroller, övervaknings- och tillsynsmetoder för att säkerställa att AI-systemet fungerar som avsett av människor och undvika oönskade effekter från dess otillförlitlighet.

Artificiell intelligens (AI) behöver programmeras för att fungera i enlighet med etiska värderingar och sociala normer. Dessa regler och standarder måste vara tydligt fastställda och övervakas för att säkerställa att de inte gör något skadligt eller skadligt för människor eller organisationer. Processen att analysera, utvärdera effekterna och övervaka AI-systemets prestanda måste också genomföras regelbundet för att säkerställa att det fungerar etiskt, inte bryter mot eller urholkar samhällets gemensamma värderingar, inte orsakar negativa effekter och säkerställer korrekt överföring av kunskap och värderingar.

Journalistik är en av de branscher som drabbas hårdast av artificiell intelligens. I framtiden kommer det inte att finnas något behov av programledare utanför bild för radioprogram, och virtuella programledare för tv-program kommer till och med att bli dominerande.

- Tillfälligt stoppa "utbildningen" av artificiell intelligens-system i minst sex månader för att ompröva hela frågan. Denna paus måste vara offentlig, kontrollerad och alla viktiga intressenter som är involverade i utbildningen måste följa den. Om nödvändigt bör regeringar utfärda tillfälliga förbud. Detta innebär inte ett fullständigt stopp för AI-utvecklingen, utan bara en tillfällig paus i den farliga kapplöpningen mot andra utvecklingsmodeller som gör AI-system mer exakta, säkra, begripliga, transparenta, relevanta, tillförlitliga och lojala. Detta är en heltäckande lösning som Elon Musk och hans kollegor förespråkade i sitt öppna brev, men dess genomförbarhet är låg. Det är mycket svårt för alla oberoende laboratorier att följa en sådan icke-bindande och transnationell vädjan.

- Att stärka samarbetet och informationsutbytet mellan länder och oberoende AI-forskningsorganisationer är avgörande för att säkerställa att AI utvecklas och används på ett säkert sätt i framtiden. Samarbete och informationsutbyte möjliggör också snabba varningar och förebyggande av eventuella framväxande risker.

I allmänhet finns AI redan överallt omkring oss, och berättelser som artificiell intelligens som skriver poesi, musik och artiklar har blivit verklighet, inte längre science fiction. Författaren till den här artikeln har använt AI-teknik på datorer och telefoner för att underlätta skrivandet, vilket gör processen smidigare och snabbare. Mer specifikt föreslogs det inledande stycket (chapeau) och några idéer av AI, och ännu mer anmärkningsvärt är att alla bilder som används i den här artikeln skapades av AI. Artificiell intelligens-teknik är mycket användbar för att förbättra människors arbets- och livskvalitet, men den måste kontrolleras noggrant för att förhindra att den spårar ur och blir en potentiell ersättning för människor i framtiden, vilket förutspåddes av den teoretiska fysikern Stephen Hawking.

Text och foton: HUU DUONG

Källa: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/vi-sao-ai-nguy-hiem-723863