Mere end 80% af kildekoden, der blev udgivet af kunstig intelligens-virksomheden Anthropic i maj sidste år, blev skrevet af AI snarere end mennesker. For bare et par år siden var dette tal næsten nul.
AI nærmer sig muligvis det punkt, hvor den kan skabe sine egne efterfølgere. Kilde: Reuters
Dette skift afspejler det svimlende tempo i udviklingen af kunstig intelligens. Men endnu mere bemærkelsesværdigt er det, at Anthropic, en af de førende virksomheder i det globale kapløb om kunstig intelligens, netop har opfordret verden til at forberede sig på at bremse eller endda stoppe udviklingen af avancerede AI-systemer, hvis risiciene kommer ud af kontrol.
Ved første øjekast virker det som et paradoks. Hvorfor skulle en virksomhed, der drager fordel af AI-bølgen, tale om at sætte bremserne på?
Svaret ligger i en voksende bekymring inden for teknologiforskningsmiljøet: AI nærmer sig muligvis det punkt, hvor den kan skabe sine egne efterfølgere.
I mange år har mennesker været i centrum for den teknologiske udvikling. Ingeniører designede ny software, forskere byggede nye algoritmer, og eksperter betjente systemerne. Men det kan ændre sig, efterhånden som AI bliver mere og mere involveret i AI-forskning og -udvikling.
Nu om dage er avancerede modeller ikke kun i stand til at skrive kode. De kan også foreslå nye ideer, bygge eksperimenter, analysere resultater og optimere systemer. Nogle opgaver, der tidligere krævede timer eller dages erfaring fra erfarne ingeniører, kan nu udføres på et par dusin minutter.
Du vil måske også synes om
DeepSeek-V4 og Kinas nye træk i AI-kapløbet.DeepSeek-V4 har ikke hjulpet Kina med at overgå USA inden for de mest avancerede AI-funktioner, men det viser en bemærkelsesværdig konkurrencemæssig retning: reduktion af implementeringsomkostninger, udvidelse af open source-kode, udvidelse af behandlingskontekst og gradvis opbygning af et AI-økosystem, der er mindre afhængigt af amerikansk teknologi. 
Washington søger løsninger på problemet med at håndtere AI.Et nyt lovforslag i Repræsentanternes Hus i USA søger at forhindre stater i at fastsætte deres egne regler for kunstig intelligens (AI), mens Anthropic opfordrer til etablering af en brancheomfattende koordineringsmekanisme for at stoppe udviklingen, når risici bliver ukontrollerbare. Disse fremskridt får mange eksperter til at overveje et scenarie, der engang blev betragtet som science fiction: at AI kunne forbedre sig selv.
I teorien er processen ret simpel. Et AI-system skaber en ny, mere kraftfuld version af sig selv. Denne nye version skaber derefter den næste version med endnu større muligheder. Processen gentages kontinuerligt, hver cyklus hurtigere og mere effektiv end den foregående.
Jack Clark, medstifter af Anthropic, forudsagde engang, at der var omkring 60 % chance for, at der i 2029 ville dukke et AI-system op, der var i stand til at skabe en efterfølgergeneration uden direkte menneskelig indgriben.
Hvis det sker, kan verden gå ind i det, som forskere kalder en fase af "rekursiv selvforbedring". ("Rekursion" er en metode i programmering, hvor en funktion kalder sig selv for at løse et problem.) Med andre ord vil AI ikke kun være et værktøj til at hjælpe mennesker, men vil blive en direkte drivkraft for sin egen udvikling.
De første tegn har vist sig. Tidligere i år foreslog et Google DeepMind AI-system løsninger til at forbedre datacentres effektivitet og optimere flere nøglealgoritmer, der bruges til træning af AI-modeller. I mellemtiden siger mange forskere, at nuværende systemer nu kan overtage noget af det arbejde, der tidligere kun blev udført af ingeniørteams.
For optimister kunne dette være vejen til hidtil usete videnskabelige gennembrud. Med AI involveret i forskning kan tempoet i den teknologiske udvikling accelerere mange gange og åbne op for muligheder for at løse problemer lige fra medicin og nye materialer til ren energi.
Forsigtige iagttagere rejser dog et andet spørgsmål. Hvis AI i stigende grad overtager flere aspekter af AI-udviklingen, hvem vil så rent faktisk kontrollere systemet?
Denne bekymring stammer ikke fra scenarier med oprørske robotter som i film. Det, der bekymrer mange eksperter mere, er muligheden for, at mennesker gradvist vil miste deres centrale rolle i beslutningstagning, risikovurdering og teknologisk udvikling.
Ikke desto mindre mener de fleste eksperter, at udsigten til, at AI kan udvikle sig helt uafhængigt, endnu ikke er særlig tæt på. Nuværende modeller er stadig afhængige af massiv computerinfrastruktur, datakilder af høj kvalitet og enorme mængder elektricitet for at fungere. Disse fysiske begrænsninger er fortsat hindringer for hastigheden af AI-udviklingen.
Men debatten har ændret sig dramatisk. For et par år siden var det største spørgsmål, hvor mange menneskelige jobs AI kunne erstatte, men nu står tech-industrien over for et langt dybere problem.
Måske vil de AI-systemer, som mennesker har skabt i dag, en dag være de sidste systemer, der stadig kræver menneskelig indgriben.
Kilde: https://hanoimoi.vn/tu-cuoc-dua-ai-den-noi-lo-mat-kiem-soat-1159521.html
