Antropisk advarsel

Anthropic har netop opfordret verdens største AI-virksomheder til at koordinere et midlertidigt stop for udviklingen af ​​den næste avancerede model og advarer om, at den kan komme ud af menneskelig kontrol.

Anthropic opfordrer til en pause i udviklingen af ​​nye avancerede AI-systemer. Foto: Bloomberg .

I et blogindlæg den 4. juni foreslog Anthropic, at det "kunne være en god ting at bremse eller sætte udviklingen af ​​avanceret AI på pause på verdensplan ." Virksomheden advarede dog om, at hvis bare én enhed stopper, vil konkurrenterne fortsætte med at bevæge sig fremad.

"Vi mener, at verden bør have mulighed for at bremse eller midlertidigt sætte udviklingen af ​​avanceret kunstig intelligens på pause, så sociale strukturer og forskning i kunstig intelligens-sikkerhed kan holde trit med den teknologiske udvikling," sagde Anthropic.

Det, der bekymrer Anthropic mest, er scenariet med "rekursiv selvforbedring", hvor AI designer, bygger og træner den næste version af sig selv uden menneskelig indgriben.

Artiklen, der er skrevet i fællesskab af Jack Clark og Marina Favaro, leder af Anthropics interne forskningsinstitut, afslører, at over 80 % af den kode, der kommer ind i virksomhedens systemer, i øjeblikket er skrevet af Claude. Ingeniører færdiggør cirka otte gange mere kode pr. kvartal, end de gjorde før 2025.

Du vil måske også synes om

Vietnamesiske unge er pionerer inden for digitalisering og opgradering af lokale OCOP-produkter.VHO - Inden for rammerne af den 13. nationale kongres for Vietnams Ungdomsunion, der blev afholdt i Hanoi, blev udstillingsområdet med temaet "Toget ind i en ny æra" et levende mødested, der tydeligt afspejlede den vietnamesiske ungdoms engagement og kreativitet.

VinFast Evo Lite: Stilfuldt design, førsteklasses ydeevne, lynhurtig batteriudskiftning.VinFast Evo Lite tiltrækker stor interesse fra studerende takket være dens fordele som "kompakt til bykørsel, jævn kørsel, hurtig batteriskift og intet kørekortkrav" samt sommertilbud.

Quang Tri-provinsen diversificerer sine kommunikationsaktiviteter for at yde juridisk bistand til ældre.Quang Tri-provinsen implementerer forskellige kommunikationsaktiviteter for at formidle information om fattigdomsbekæmpelse med fokus på landsbyembedsmænd såsom landsbyældste, landsbyledere og indflydelsesrige medlemmer af lokalsamfundet ... for at sikre, at politikker om juridisk bistand til ældre er dybt integreret i dagligdagen.

Dette er ikke blot en teoretisk advarsel. Virksomheden bag chatbotten Claude argumenterer for, at et AI-system med tilstrækkelig computerkraft og med den nuværende udviklingshastighed kunne designe og udvikle sin egen efterfølger. Denne milepæl ville bringe betydelige fordele for videnskab og medicin , men ville også øge risikoen for, at tingene kommer ud af menneskelig kontrol.

For at en virkelig effektiv pause kan finde sted, kræves der konsensus fra mange store AI-virksomheder i flere lande, især USA og Kina. Anthropic sagde, at deres interne forskningsinstitut vil undersøge dette problem sammen med andre parter og træffe forskellige foranstaltninger for at hjælpe med at opbygge mekanismen for en omfattende omstrukturering.

Denne opfordring kommer, mens Anthropic forbereder sig på en børsnotering, en aftale der kan værdisætte virksomheden til næsten 1 billion dollars . Kombinationen af ​​advarsler om AI-sikkerhed og ambitioner på aktiemarkedet skaber et bemærkelsesværdigt paradoks.

Det er ikke første gang, at en stor aktør inden for AI-feltet har opfordret til en pause. I 2023 underskrev en gruppe, herunder Elon Musk og adskillige AI-forskere, et brev, der opfordrede til en seks måneders pause i udviklingen, men det gav ingen håndgribelige resultater.

Du vil måske også synes om

Priserne på iPhone 18 Pro og 18 Pro Max vil nå rekordhøjder.iPhone 18 Pro og iPhone 18 Pro Max forventes at blive lanceret i september. Mens rygter om design, kamera og AI tiltrækker opmærksomhed fra tech-verdenen, er et andet 'mere omtalt' emne prisen på disse flagskibsenheder.

AI lægger et stadigt stigende pres på energi.VHO - AI og AI-datacentre forbruger stadig mere elektricitet og vand. Eksperter advarer om, at den hurtige udvidelse af AI kan øge presset på miljøet og hindre bestræbelserne på at reducere CO2-udledningen.

Hvordan kan jeg dele en artikel online uden at blive idømt en bøde på 30 millioner VND?Som svar på bekymringer om straffe for deling af journalistisk indhold på sociale medier har myndighederne afklaret flere almindelige sager, der giver anledning til stor kontrovers.

Kilde: https://znews.vn/anthropic-canh-bao-post1657460.html