Antropisk advarsel

Anthropic har nettopp oppfordret verdens største AI-selskaper til å koordinere en midlertidig stans i utviklingen av den neste avanserte modellen, og advarer om at den kan komme ut av menneskelig kontroll.

Anthropic etterlyser en pause i utviklingen av nye avanserte AI-systemer. Foto: Bloomberg .

I et blogginnlegg 4. juni antydet Anthropic at det å bremse ned eller sette utviklingen av avansert AI på pause over hele verden «kan være bra». Selskapet advarte imidlertid om at selv om én enhet stopper, vil konkurrentene fortsette å bevege seg fremover.

«Vi mener at verden bør ha muligheten til å bremse ned eller midlertidig sette utviklingen av avansert kunstig intelligens på pause, slik at sosiale strukturer og forskning på kunstig intelligens-sikkerhet kan holde tritt med den teknologiske utviklingen», sa Anthropic.

Det som bekymrer Anthropic mest er «rekursiv selvforbedring»-scenariet, der AI designer, bygger og trener den neste versjonen av seg selv uten menneskelig inngripen.

Artikkelen, som er skrevet i samarbeid med Jack Clark og Marina Favaro, leder for Anthropics interne forskningsinstitutt, avslører at over 80 % av koden som legges inn i selskapets systemer for tiden er skrevet av Claude. Ingeniører fullfører omtrent åtte ganger mer kode per kvartal enn de gjorde før 2025.

Du liker kanskje også

Installasjon av piratkopiert programvare kan føre til bøter på opptil 1 milliard VND.VTV.vn – Installasjon og bruk av piratkopiert Windows- og Office-programvare kan føre til bøter på opptil 1 milliard VND eller straffeforfølgelse.

Microsoft finner sin egen vei i AI-kappløpet.VTV.vn – Microsoft utvikler sine egne AI-modeller, men dette vil kreve betydelige investeringer i brikker, datasentre og strøm.

Qualcomm akselererer AI-kappløpet med en milliardavtale.VTV.vn – Den amerikanske chipgiganten er angivelig i ferd med å kjøpe opp AI-infrastruktur-oppstartsbedriften Modular, med sikte på å styrke sin konkurranseposisjon mot Nvidia.

Dette er ikke bare en teoretisk advarsel. Selskapet bak chatboten Claude argumenterer for at med tilstrekkelig datakraft og med dagens utviklingstakt, kan et AI-system designe og utvikle sin egen etterfølger. Denne milepælen vil gi betydelige fordeler for vitenskap og medisin , men vil også øke risikoen for at ting kommer ut av menneskelig kontroll.

For en virkelig effektiv pause kreves det konsensus fra mange store AI-selskaper i flere land, særlig USA og Kina. Anthropic sa at deres interne forskningsinstitutt vil utforske dette problemet med andre parter og iverksette ulike tiltak for å bidra til å bygge mekanismen for en omfattende omstrukturering.

Denne oppfordringen kommer samtidig som Anthropic forbereder seg på en børsnotering, en avtale som kan verdsette selskapet til nesten 1 billion dollar . Kombinasjonen av advarsler om AI-sikkerhet og aksjemarkedsambisjoner skaper et bemerkelsesverdig paradoks.

Dette er ikke første gang en stor aktør innen AI-feltet har oppfordret til en pause. I 2023 signerte en gruppe, inkludert Elon Musk og en rekke AI-forskere, et brev som ba om en seks måneders stans i utviklingen, men det ga ingen konkrete resultater.

Du liker kanskje også

Galaxy S27 Ultra står overfor risikoen for en «sjokkerende» prisøkning.Samsung står overfor et vanskelig valg for Galaxy S27 Ultra: redusere ytelsen og miste sin ledende posisjon, eller bli tvunget til å øke prisen på flaggskipet sitt.

Alarm utløst over lekkasje av digital kontoinformasjon.Fra kampanjer for distribusjon av skadelig programvare via meldingsapper til store datainnbrudd, er digitale kontoer i ferd med å bli et hovedmål for nettkriminelle. Økningen i lekkasjer av innloggingsinformasjon demonstrerer den reelle trusselen om cyberusikkerhet for både individuelle brukere og organisasjoner/bedrifter.

En haiart har blitt oppdaget som kan «gå» under vann.En ny art av vandrehai er oppdaget i det grunne vannet i Papua Ny-Guinea. Denne arten kan imidlertid være i fare for å bli utryddet.

Kilde: https://znews.vn/anthropic-canh-bao-post1657460.html