Dette er faktisk ikke første gang forskere har advart om den potensielle faren kunstig intelligens har for menneskeheten. I 2014 uttalte den anerkjente britiske teoretiske fysikeren Stephen Hawking: «Den fulle utviklingen av kunstig intelligens kan ødelegge menneskeheten.» Han spådde også at menneskeheten ville bli fullstendig erstattet av kunstig intelligens innen 500 år hvis det ikke ble utvist forsiktighet i forskningen og utviklingen av denne farlige teknologien. For åtte år siden, i juli 2015, signerte mer enn 1000 eksperter på kunstig intelligens, inkludert Stephen Hawking, Elon Musk, Noam Chomsky og andre, en underskriftskampanje som advarte om risikoen for et våpenkappløp innen militær AI og ba om et fullstendig forbud mot autonome våpen (som kombinerer AI og dødelige våpen). OpenAIs lansering av Chat GPT-applikasjonen i november 2022 la til en ny alarmklokke angående de iboende farene ved kunstig intelligens. Faktisk viser det Chat GPT gjør at AI til en viss grad har blitt langt farligere enn folk en gang trodde.
De potensielle risikoene ved kunstig intelligens avhenger av hvordan den brukes. Opprinnelig ble AI utviklet for å hjelpe mennesker i arbeidet deres, spesielt med kjedelige, repeterende oppgaver som bildeklassifisering og informasjonsgjennomgang. Men med den raske utviklingen av AI i nyere tid, er forskere og teknologieksperter bekymret for at kunstig intelligens kan få alvorlige konsekvenser for menneskeheten og samfunnet hvis den utvikles ukontrollert eller programmeres til feil formål.
Risiko for usikkerhet
Kunstig intelligens kan bli en trussel mot nasjonal sikkerhet og personlig trygghet. Elon Musk har advart om at AI kan bli et skremmende verktøy i krigføring. Hvis en nasjon kan utvikle et overlegent kunstig intelligens-system, kan den bruke det til å angripe andre nasjoner. Professor Stuart Russell, en informatikkprofessor ved University of California som har brukt flere tiår på å forske på kunstig intelligens, advarer om sikkerhetstrusselen som AI utgjør, og sier at vi nå kan produsere autonome våpen ved å integrere og miniatyrisere eksisterende teknologier.
Eksperimentet, utført av professor Stuart Russell og Future Life Research Institute (FLI), brukte en slakterbot – en mikroskopisk flygende innretning utstyrt med kameraer, sensorer, programvare for bildebehandling, ansiktsgjenkjenning, en 3-grams eksplosiv ladning og en høyhastighets mikroprosessor som muliggjør dataanalyse og reaksjoner 100 ganger raskere enn den menneskelige hjernen. I henhold til sine programmerte parametere bruker slakterboten kontinuerlig skydata for å søke etter informasjon om målet sitt og finne en måte å nærme seg det på. Når den er funnet, vil den fare mot målet i høy hastighet, detonere 3-grams eksplosivladningen og trenge dypt inn i hodeskallen, og drepe offeret umiddelbart.
Det var bare et eksperiment med AI på sitt enkleste nivå. Hvis AI brukes til å utvikle nye, mer sofistikerte angrepsmetoder, kan det også øke angripernes angrepskapasitet og føre til mer alvorlige konsekvenser enn konvensjonelle angrep. Når AI utvikler seg til det punktet hvor den kan ta sine egne beslutninger for å håndtere skiftende miljøer, eller uavhengig søke etter alternative mål, eller utvide målområdet sitt, vil kanskje menneskeheten ikke lenger være trygg. Mange kolleger på dette feltet er enige med professor Stuart Russell og mener det fortsatt er en sjanse til å forhindre en så dyster fremtid, men vi har egentlig ikke mye tid igjen.
Risikoen er at AI blir organisert, autonom og kontrollerer systemet.
AI kan bli feildesignet eller feilaktig «trent» gjennom maskinlæring, noe som potensielt kan føre til utilsiktede handlinger som skader mennesker og miljøet. Med maskinlæring blir for eksempel AI stadig mer intelligent. Når kunstig intelligens når et intelligensnivå der den støtter kritiske systemer som strøm, transport, helsevesen og finans, kan den mestre og kontrollere disse systemene, ta sine egne beslutninger og utføre dem i nødsituasjoner. Men når AI er «utstyrt» med ondsinnede hensikter (feildesignet), kan det forårsake alvorlige konsekvenser, som å forstyrre trafikksystemer ved å deaktivere trafikklys eller kutte strømmen til bybanesystemer, noe som kan forårsake kjedeulykker og omfattende strømbrudd.
Mange Hollywood- og internasjonale filmer har vært basert på dette scenariet. Med dagens AI-teknologi er imidlertid ikke dette lenger en fjern mulighet, men fullt mulig. Elon Musk mener at hvis AI får utvikle seg ukontrollert, til det punktet hvor den kan automatisere beslutninger uten menneskelig inngripen, kan det utgjøre en trussel mot menneskelig overlevelse. Derfor signerte han, sammen med tusenvis av teknologieksperter, et brev som krevde en stopp for og streng kontroll over AI-utvikling på en transparent måte. Ifølge Elon Musk er kunstig intelligens-systemer komplekse, vanskelige å forstå, og det er svært utfordrende å kontrollere dem. Uten åpenhet er bruk av kunstig intelligens til uetiske formål, som forårsaker skade på menneskeheten, uunngåelig.
Risiko for tap av jobb, brudd på personvernrettigheter.
Når kunstig intelligens brukes til å samle inn personlig informasjon, kan den brukes til å krenke personvernet, gjennomføre desinformasjonskampanjer og spre feilinformasjon som påvirker sosial orden og politisk stabilitet. Hackingen av det amerikanske Office of Personnel Management (OPM)-nettverket er en betydelig bekymring for ethvert land eller organisasjon, ettersom det kompromitterte detaljerte og svært sensitive personopplysninger til 21,5 millioner nåværende og pensjonerte amerikanske tjenestemenn, inkludert informasjon om ektefeller og data om offentlige jobbsøknader, som helsetilstand, bosted, yrke, fingeravtrykk og økonomisk informasjon. Imidlertid dukket et enda mer alarmerende faktum opp da CIA oppdaget at gjerningsmennene bak OPM-datatyveriet brukte kunstig intelligens til å forfalske personlig informasjon og lage virtuelle agenter for å stjele data. Når informasjonen er stjålet, vil den bli analysert, kategorisert og utnyttet til spesifikke formål ved hjelp av stordatateknologi. Kunstig intelligens hjelper informasjonstyvene med å forkorte tiden det tar å utnytte dataene fordi mennesker ikke er i stand til å behandle en så massiv mengde informasjon på så kort tid.
I tillegg til de nevnte iboende farene, skaper KI-teknologi også andre risikoer, som for eksempel overdreven avhengighet av den, noe som fører til tap av kontroll over situasjoner og en reduksjon i beslutningsevnen. Kunstig intelligens vil også føre til at millioner, til og med hundrevis av millioner, av mennesker mister jobben, spesielt i rent manuelle arbeidsoppgaver med lavt kunnskapsinnhold. Konsekvensen er at alvorlige sosiale problemer som arbeidsledighet, kriminalitet og gapet mellom rik og fattig vil bli enda mer uttalt. Videre er pålitelighet også et avgjørende spørsmål. Påliteligheten til beslutninger innen høyspesialiserte felt som helsevesen og strafferett er ekstremt viktig. Når man bruker KI til å bistå i beslutningstaking på disse feltene, kan disse beslutningene potensielt få alvorlige konsekvenser hvis teknologien ikke er tilstrekkelig pålitelig, opererer basert på data som har en tendens til å favorisere én eller en gruppe mennesker, eller er bevisst forvrengt.
Hvordan kan vi forhindre dette?
De nevnte risikoene er grunnen til at Elon Musk og teknologieksperter er bekymret for den ukontrollerte utviklingen av AI, og har skrevet brev der de oppfordrer FN og internasjonale organisasjoner til å strengt kontrollere, sikre sikkerhet og etikk i AI-utvikling, og styrke internasjonalt samarbeid for å sikre at AI-teknologi brukes til fordel for menneskeheten og samfunnet. Noen spesifikke tiltak som kan nevnes inkluderer:
- Kontroll av systempålitelighet: AI må designes og utvikles for å sikre sikkerhet og pålitelighet gjennom strenge, hyppige og kontinuerlige kvalitetskontroll-, overvåkings- og tilsynsmetoder for å sikre at AI-systemet fungerer som tiltenkt av mennesker og unngå uønskede effekter fra dets upålitelighet.
Kunstig intelligens (KI)-teknologi må programmeres til å fungere i henhold til etiske verdier og sosiale normer. Disse forskriftene og standardene må være tydelig etablert og overvåket for å sikre at de ikke gjør noe skadelig eller ugunstig for mennesker eller organisasjoner. Prosessen med å analysere, evaluere virkningen og overvåke KI-systemets ytelse må også gjennomføres regelmessig for å sikre at det fungerer etisk, ikke krenker eller eroderer samfunnets fellesverdier, ikke forårsaker negative konsekvenser og sikrer nøyaktig overføring av kunnskap og verdier.
    |
| Journalistikk er en av bransjene som er mest påvirket av kunstig intelligens. I fremtiden vil det ikke være behov for programledere utenfor skjermen for radioprogrammer, og virtuelle programledere for TV-programmer vil til og med bli dominerende. |
– Midlertidig stanse «opplæringen» av kunstig intelligens-systemer i minst seks måneder for å revurdere hele problemstillingen. Denne pausen må være offentlig, kontrollert, og alle viktige interessenter involvert i opplæringen må etterkomme. Om nødvendig bør myndighetene utstede midlertidige forbud. Dette betyr ikke en fullstendig stopp for AI-utvikling, men bare en midlertidig pause i det farlige kappløpet om å gå over til andre utviklingsmodeller som gjør AI-systemer mer nøyaktige, sikre, forståelige, transparente, relevante, pålitelige og lojale. Dette er en omfattende løsning som Elon Musk og kollegene hans forfektet i sitt åpne brev, men gjennomførbarheten er lav. Det er svært vanskelig for alle uavhengige laboratorier å etterkomme en så ikke-bindende og transnasjonal appell.
– Styrking av samarbeid og informasjonsdeling mellom land og uavhengige KI-forskningsorganisasjoner er avgjørende for å sikre at KI utvikles og brukes på en trygg måte i fremtiden. Samarbeid og informasjonsdeling muliggjør også rettidige varsler og forebygging av eventuelle nye risikoer.
Generelt sett er KI allerede tilstede overalt rundt oss, og historier som kunstig intelligens som skriver poesi, musikk og artikler har blitt virkelighet, ikke lenger science fiction. Forfatteren av denne artikkelen har brukt KI-teknologi på datamaskiner og telefoner for å hjelpe til med skriving, noe som gjør prosessen smidigere og raskere. Spesielt det innledende avsnittet (chapeau) og noen ideer ble foreslått av KI, og enda mer bemerkelsesverdig er det at alle bildene som ble brukt i denne artikkelen ble laget av KI. Kunstig intelligens-teknologi er svært nyttig for å forbedre arbeids- og livskvaliteten for mennesker, men den må kontrolleres nøye for å forhindre at den kommer ut av kontroll og blir en potensiell erstatning for mennesker i fremtiden, slik den teoretiske fysikeren Stephen Hawking spådde.
Tekst og bilder: HUU DUONG[annonse_2]
Kilde
Kommentar (0)