Behandle AI som et biovåpen, ikke en atombombe!

Nylig publiserte Gizmodo.com, et nettsted for informasjonsteknologi som spesialiserer seg på å oppdatere hete nyheter om verdensberømte teknologitrender, en analyse av hvordan folk bør behandle kunstig intelligens (KI)-teknologi.

Illustrasjon av en oppfordring om å behandle AI som et biologisk våpen. (Kilde: gizmodo.com)

I artikkelen *Behandle KI som et biologisk våpen, ikke et atomvåpen* av Emilia Javorsky, en forsker -lege og direktør for Future of Life Institute (USA), argumenterer forfatteren for at til tross for at verden nylig gjentatte ganger har sammenlignet KI med atombomber, finnes det en mer passende tilnærming, som er å regulere denne typen teknologi som et biologisk våpen eller bioteknologi.

Ifølge forfatteren er KI kanskje den kraftigste teknologien i menneskets historie som mennesker utvikler i dag. De skadelige effektene av KI, inkludert diskriminering, trusler mot demokratiet og konsentrasjon av innflytelse, er godt dokumentert.

Likevel kjemper ledende AI-selskaper om å bygge stadig kraftigere AI-systemer, noe som eskalerer risikoen i et tempo uten sidestykke i menneskehetens historie.

Etter hvert som ledere strever med hvordan de skal begrense og kontrollere fremveksten av AI og tilhørende risikoer, må de vurdere de samme reglene og standardene som menneskeheten har brukt for å skape den tidligere.

Tilpasning og innovasjon kan sameksistere, spesielt når menneskeliv står på spill.

En advarsel fra kjernefysikk

Selv om kjernekraft er mer enn 600 ganger tryggere enn olje når det gjelder dødelighet og er enormt effektiv, er det få land som berører den på grunn av konsekvensene de har sett av den langvarige tilnærmingen til kjernekraft.

Verden lærte om kjernefysisk teknologi i form av atombomben og hydrogenbomben. Med disse våpnene utviklet menneskene for første gang i historien en teknologi som var i stand til å gjøre slutt på den menneskelige sivilisasjonen, et produkt av et våpenkappløp som prioriterte fart og innovasjon fremfor sikkerhet og kontroll.

Senere feil i teknisk sikkerhet og risikostyring, som er kjent for å ha forårsaket atomkatastrofene i Tsjernobyl og Fukushima, ødela enhver mulighet for at folk kunne akseptere de positive sidene ved kjernekraft.

Til tross for den generelt gunstige risikovurderingen av kjernekraft og flere tiår med forskere som jobber for å overbevise verden om dens levedyktighet, forblir selve konseptet «kjernekraft» … besudlet.

Når en teknologi forårsaker skade i en tidlig fase, kan sosial bevissthet og overreaksjoner permanent begrense dens potensielle fordeler. På grunn av tidlige feiltrinn med kjernekraft har menneskeheten ikke vært i stand til å dra nytte av dens rene, trygge energikilde, og karbonnøytralitet og energistabilitet er fortsatt en drøm.

Den riktige tilnærmingen til bioteknologi

Likevel har folk på noen områder fått det til. Bioteknologi er et slikt felt, som oppmuntres til å utvikle seg raskt i lys av at mange pasienter lider og mange dør hver dag av sykdommer som ikke har noen kur.

Etosen bak denne forskningen er ikke å «gå fort og ødelegge ting», men å innovere så raskt og trygt som mulig. Mennesker begrenser tempoet i innovasjonen på dette feltet gjennom et system av forskrifter, etikk og normer som beskytter samfunnets og individenes velferd, og beskytter industrien mot å bli lammet av tilbakeslag som kan føre til katastrofe.

Da biologiske våpen ble forbudt på Biologiske våpenkonvensjonen under den kalde krigen, ble de motstående supermaktene enige om at det ikke var i noens interesse å lage slike våpen. Lederne så at disse vanskelig kontrollerte, men lett tilgjengelige teknologiene ikke burde sees på som en mekanisme for å vinne våpenkappløpet, men som en trussel mot menneskeheten selv.

Emilia Javorsky er en av forskerne som nylig signerte et åpent brev der hun talte for et seks måneders moratorium på utvikling av kunstig intelligens. Hun signerte også en uttalelse som advarer om at kunstig intelligens utgjør en «utryddelsefare» for menneskeheten.

Pausen i kappløpet om biovåpen lar mennesker utvikle dem i et ansvarlig tempo, med forskere og regulatorer som anvender strenge standarder for enhver ny innovasjon som potensielt kan skade mennesker.

Disse tilpasningene har ikke kommet uten kostnader, men har også etablert en bioøkonomi , med mange anvendelser innen områder fra ren energi til landbruk.

Under Covid-19-pandemien har biologer brukt mRNA-teknologi for å produsere effektive vaksiner i en hastighet uten sidestykke i menneskehetens historie.

En fersk undersøkelse blant AI-forskere fant at 36 % av respondentene mente at AI kunne forårsake en atomkatastrofe. Myndighetenes reaksjoner og reguleringer har imidlertid vært trege, noe som ikke er i samsvar med tempoet i teknologiens adopsjon, ettersom ChatGPT-appen nå har passert 100 millioner brukere.

De raskt eskalerende risikoene knyttet til AI har nylig fått 1800 administrerende direktører og 1500 professorer i USA til å signere et brev som ber om en seks måneders pause i AI-utviklingen og en umiddelbar prosess med regulering og risikoredusering. Denne pausen vil gi det globale samfunnet tid til å begrense skadene forårsaket av AI og forhindre risikoen for en irreversibel katastrofe for samfunnet vårt.

Når vi vurderer risikoene og potensielle skadevirkninger ved KI, må vi også vurdere hvordan vi kan unngå å miste det positive potensialet til denne teknologien av syne. Hvis vi utvikler KI ansvarlig nå, vil vi kunne høste utrolige fordeler fra denne teknologien. For eksempel fordelene ved å bruke KI til legemiddelforskning og -utvikling, forbedre kvaliteten og kostnadene for helsetjenester, og øke tilgangen til leger og medisinsk behandling.

Googles DeepMind har vist at kunstig intelligens har potensial til å løse grunnleggende problemer innen biologi som mennesker lenge har unngått. Ifølge studien kan kunstig intelligens akselerere oppnåelsen av alle FNs bærekraftsmål, og dermed føre menneskeheten mot en fremtid med forbedret helse, rettferdighet, velstand og fred.

Det er på tide at verdenssamfunnet kommer sammen, slik det gjorde for 50 år siden på Biological Weapons Convention, for å sikre at utviklingen av kunstig intelligens er trygg og ansvarlig. Hvis vi ikke handler snart, risikerer vi å ødelegge den lyse fremtiden til kunstig intelligens og vårt eget nåværende samfunn.

Kilde: https://baoquocte.vn/chuyen-gia-my-hay-doi-xu-voi-ai-nhu-vu-khi-sinh-hoc-khong-phai-bom-hat-nhan-230623.html