Behandla AI som ett biologiskt vapen, inte en atombomb!

Nyligen publicerade Gizmodo.com, en webbplats för informationsteknologi som specialiserar sig på att uppdatera heta nyheter om världskända tekniktrender, en analys av hur människor bör behandla artificiell intelligens (AI).

Illustration av en uppmaning att behandla AI som ett biologiskt vapen. (Källa: gizmodo.com)

I artikeln *Treat AI as a biological weapon, not a nuclear weapon* av Emilia Javorsky, forskare och läkare och chef för Future of Life Institute (USA), menar författaren att trots att världen på senare tid upprepade gånger har jämfört AI med atombomber, finns det ett mer lämpligt tillvägagångssätt, nämligen att reglera denna typ av teknik som ett biologiskt vapen eller bioteknik.

Enligt författaren är AI kanske den kraftfullaste teknologin i mänsklighetens historia som människor utvecklar idag. AI:s skadliga effekter, inklusive diskriminering, hot mot demokratin och koncentration av inflytande, är väl dokumenterade.

Ändå tävlar ledande AI-företag om att bygga allt kraftfullare AI-system, vilket eskalerar riskerna i en takt som saknar motstycke i mänsklighetens historia.

I takt med att ledare brottas med hur de ska begränsa och kontrollera AI:s uppgång och dess därmed sammanhängande risker, måste de beakta samma regler och standarder som mänskligheten har använt för att skapa den tidigare.

Anpassning och innovation kan samexistera, särskilt när människoliv står på spel.

En varning från kärntekniken

Även om kärnenergi är mer än 600 gånger säkrare än olja vad gäller dödlighet och är enormt effektiv, är det få länder som vidrör den på grund av de konsekvenser de har sett av den långvariga strategin för kärnkraft.

Världen lärde sig om kärnteknik i form av atombomben och vätebomben. Med dessa vapen utvecklade människan för första gången i historien en teknologi som kunde utplåna den mänskliga civilisationen, en produkt av en kapprustning som prioriterade snabbhet och innovation framför säkerhet och kontroll.

Efterföljande misslyckanden inom teknisk säkerhet och riskhantering, som var kända för kärnkraftskatastroferna i Tjernobyl och Fukushima, förstörde alla chanser att människor skulle acceptera de positiva aspekterna av kärnenergi.

Trots den överlag gynnsamma riskbedömningen av kärnkraft och årtionden av forskare som arbetar för att övertyga världen om dess lönsamhet, förblir själva konceptet "kärnkraft" ... befläckat.

När en teknik orsakar skada i ett tidigt skede kan social medvetenhet och överreaktion permanent begränsa dess potentiella fördelar. På grund av tidiga missöden med kärnkraft har mänskligheten inte kunnat dra nytta av dess rena, säkra energikälla, och koldioxidneutralitet och energistabilitet är fortfarande en önskedröm.

Rätt tillvägagångssätt inom bioteknik

Ändå har man inom vissa områden lyckats. Bioteknik är ett sådant område, som uppmuntras att utvecklas snabbt mot bakgrund av att många patienter lider och många dör varje dag av sjukdomar som saknar botemedel.

Grundtanken i denna forskning är inte att "gå snabbt och förstöra saker", utan att förnya sig så snabbt och säkert som möjligt. Människor begränsar innovationstakten inom detta område genom ett system av regleringar, etik och normer som skyddar samhällets och individernas välfärd, och skyddar industrin från att bli förlamad av motreaktioner som kan leda till katastrof.

När biologiska vapen förbjöds vid konventionen om biologiska vapen under kalla kriget, var de motstående supermakterna överens om att skapandet av sådana vapen inte låg i någons intresse. Ledarna insåg att dessa svårkontrollerade men lättillgängliga teknologier inte borde ses som en mekanism för att vinna kapprustningen, utan som ett hot mot mänskligheten själv.

Emilia Javorsky är en av de forskare som nyligen skrev under ett öppet brev som förespråkar ett sex månader långt moratorium för AI-utveckling. Hon skrev också under ett uttalande som varnar för att AI utgör en "utrotningsrisk" för mänskligheten.

Pausen i kapplöpningen om biovapen gör det möjligt för människor att utveckla dem i en ansvarsfull takt, där forskare och tillsynsmyndigheter tillämpar strikta standarder för alla nya innovationer som potentiellt kan skada människor.

Dessa anpassningar har inte kommit utan kostnad utan har också etablerat en bioekonomi , med många tillämpningar inom områden från ren energi till jordbruk.

Under covid-19-pandemin har biologer använt mRNA-teknik för att producera effektiva vacciner i en hastighet utan motstycke i mänsklighetens historia.

En nyligen genomförd undersökning bland AI-forskare visade att 36 % av de svarande ansåg att AI skulle kunna orsaka en kärnkraftskatastrof. Regeringarnas reaktioner och regleringar har dock varit långsamma, vilket inte är förenligt med takten i teknikens införande, där ChatGPT-appen nu passerar 100 miljoner användare.

De snabbt eskalerande riskerna med AI har nyligen fått 1 800 VD:ar och 1 500 professorer i USA att nyligen underteckna ett brev där de uppmanar till ett sex månader långt uppehåll i AI-utvecklingen och en omedelbar process för reglering och riskreducering. Denna paus skulle ge det globala samfundet tid att begränsa den skada som AI orsakar och förhindra risken för en oåterkallelig katastrof för vårt samhälle.

Samtidigt som vi bedömer riskerna och de potentiella nackdelarna med AI måste vi också överväga hur vi undviker att tappa bort den positiva potentialen hos denna teknik. Om vi ​​utvecklar AI ansvarsfullt nu kommer vi att kunna skörda otroliga fördelar med denna teknik. Till exempel fördelarna med att tillämpa AI för läkemedelsutveckling, förbättra kvaliteten och kostnaderna för hälso- och sjukvård samt öka tillgången till läkare och medicinsk behandling.

Googles DeepMind har visat att AI har potential att lösa grundläggande problem inom biologin som människor länge har undvikit. Enligt studien skulle AI kunna påskynda uppnåendet av alla FN:s globala mål för hållbar utveckling och föra mänskligheten mot en framtid av förbättrad hälsa, jämlikhet, välstånd och fred.

Det är dags för det globala samfundet att gå samman, precis som för 50 år sedan vid konventionen om biologiska vapen, för att säkerställa att AI-utvecklingen är säker och ansvarsfull. Om vi ​​inte agerar snart riskerar vi att förstöra AI:s ljusa framtid och vårt eget nuvarande samhälle.

Källa: https://baoquocte.vn/chuyen-gia-my-hay-doi-xu-voi-ai-nhu-vu-khi-sinh-hoc-khong-phai-bom-hat-nhan-230623.html