Mer enn 80 % av kildekoden som ble utgitt av kunstig intelligens-selskapet Anthropic i mai i fjor, ble skrevet av AI i stedet for mennesker. For bare noen få år siden var det tallet nesten null.
AI kan være nær punktet hvor den kan skape sine egne etterfølgere. Kilde: Reuters
Dette skiftet gjenspeiler det svimlende tempoet i utviklingen av kunstig intelligens. Men enda mer bemerkelsesverdig er det at Anthropic, et av de ledende selskapene i det globale kappløpet om kunstig intelligens, nettopp har oppfordret verden til å forberede seg på å bremse ned eller til og med stoppe utviklingen av avanserte AI-systemer dersom risikoen kommer ut av kontroll.
Ved første øyekast virker dette som et paradoks. Hvorfor skulle et selskap som drar nytte av AI-bølgen ønske å snakke om å sette på bremsene?
Svaret ligger i en økende bekymring innen teknologiforskningsmiljøet: AI kan være nær punktet hvor den kan skape sine egne etterfølgere.
I mange år har mennesker vært i sentrum for teknologisk utvikling. Ingeniører designet ny programvare, forskere bygde nye algoritmer, og eksperter opererte systemene. Men det kan endre seg etter hvert som AI blir stadig mer involvert i AI-forskning og -utvikling.
I dag er avanserte modeller ikke bare i stand til å skrive kode. De kan også foreslå nye ideer, bygge eksperimenter, analysere resultater og optimalisere systemer. Noen oppgaver som tidligere krevde timer eller dager med erfaring fra erfarne ingeniører, kan nå fullføres på noen få dusin minutter.
Disse fremskrittene får mange eksperter til å vurdere et scenario som en gang ble ansett som science fiction: at AI kan forbedre seg selv.
I teorien er prosessen ganske enkel. Et AI-system lager en ny, kraftigere versjon av seg selv. Denne nye versjonen lager deretter den neste versjonen med enda større muligheter. Prosessen gjentas kontinuerlig, hver syklus raskere og mer effektiv enn den forrige.
Jack Clark, medgründer av Anthropic, spådde en gang at det var omtrent 60 % sjanse for at det innen 2029 ville dukke opp et AI-system som var i stand til å skape en etterfølgergenerasjon uten direkte menneskelig inngripen.
Hvis det skjer, kan verden gå inn i det forskere kaller en fase med «rekursiv selvforbedring». («Rekursjon» er en metode i programmering der en funksjon kaller seg selv for å løse et problem.) Med andre ord vil AI ikke bare være et verktøy for å hjelpe mennesker, men vil bli en direkte driver for sin egen utvikling.
De første tegnene har dukket opp. Tidligere i år foreslo et Google DeepMind AI-system løsninger for å forbedre effektiviteten i datasentre og optimalisere flere viktige algoritmer som brukes i trening av AI-modeller. Samtidig sier mange forskere at dagens systemer nå kan overta noe av arbeidet som tidligere bare ble utført av ingeniørteam.
For optimister kan dette være veien til enestående vitenskapelige gjennombrudd. Med AI involvert i forskning kan tempoet i den teknologiske utviklingen øke betraktelig, noe som åpner opp muligheter for å løse problemer som spenner fra medisin og nye materialer til ren energi.
Forsiktige observatører reiser imidlertid et annet spørsmål. Hvis AI i økende grad tar over flere aspekter av AI-utvikling, hvem vil da faktisk kontrollere systemet?
Denne bekymringen stammer ikke fra scenarier med opprørske roboter slik som i filmer. Det som bekymrer mange eksperter mer er muligheten for at mennesker gradvis vil miste sin sentrale rolle i beslutningstaking, risikovurdering og teknologisk utvikling.
Styrking av vennskapet mellom Vietnam og USA.Den 3. juli, som en del av Stillehavspartnerskapet – Venner av Stillehavet 2026-programmet, avla den amerikanske hærens stillehavsdelegasjon, ledet av generalløytnant Joel Vowell, nestkommanderende for den amerikanske hærens stillehav, et høflighetsbesøk til Quang Tri provinsielle militærkommando. Likevel mener de fleste eksperter at utsiktene for at AI kan utvikle seg helt uavhengig ennå ikke er veldig nære. Nåværende modeller er fortsatt avhengige av massiv datainfrastruktur, datakilder av høy kvalitet og enorme mengder strøm for å fungere. Disse fysiske begrensningene fortsetter å være hindringer for hastigheten på AI-utviklingen.
Men debatten har endret seg dramatisk. Mens det største spørsmålet for noen år siden var hvor mange menneskelige jobber AI kunne erstatte, står teknologibransjen nå overfor et mye dypere problem.
Kanskje en dag vil AI-systemene som er skapt av mennesker i dag være de siste systemene som fortsatt krever menneskelig inngripen.
Kilde: https://hanoimoi.vn/tu-cuoc-dua-ai-den-noi-lo-mat-kiem-soat-1159521.html
