Antropisk varning

Anthropic har just uppmanat världens största AI-företag att samordna ett tillfälligt stopp för utvecklingen av nästa avancerade modell och varnat för att den kan spåra ur mänsklig kontroll.

Anthropic efterlyser en paus i utvecklingen av nya avancerade AI-system. Foto: Bloomberg .

I ett blogginlägg den 4 juni föreslog Anthropic att det "skulle kunna vara bra" att sakta ner eller pausa utvecklingen av avancerad AI världen över . Företaget varnade dock för att även om en enda enhet slutar, kommer konkurrenterna att fortsätta gå framåt.

"Vi anser att världen borde ha möjlighet att sakta ner eller tillfälligt pausa utvecklingen av avancerad AI så att sociala strukturer och forskning om AI-säkerhet kan hålla jämna steg med den tekniska utvecklingen", sa Anthropic.

Det som oroar Anthropic mest är scenariot med "rekursiv självförbättring", där AI designar, bygger och tränar nästa version av sig själv utan mänsklig inblandning.

Artikeln, som är skriven av Jack Clark och Marina Favaro, chef för Anthropics interna forskningsinstitut, avslöjar att över 80 % av koden som kommer in i företagets system för närvarande skrivs av Claude. Ingenjörer färdigställer ungefär åtta gånger mer kod per kvartal än de gjorde före 2025.

Du kanske också gillar

Hur rankas och kategoriseras vietnamesiska KOL:er?Med verklig data från sociala medier och en flerskiktad verifieringsmekanism strävar den nationella KOL-portalen efter att bli ett transparent riktmärke för den vietnamesiska influencermarknaden.

När anses det vara upphovsrättsintrång att dela en länk till ett journalistiskt verk?På eftermiddagen den 24 juni lämnade chefen för avdelningen för radio, tv och elektronisk information information om fall som kan leda till upphovsrättsintrång i journalistiska verk.

Reformering av etniska språkprogram för att minska informationsfattigdom för människor i bergsområden.Cao Bangs tidningar och radio- och tv-stationer kommer att fortsätta att förnya formaten och förbättra kvaliteten på innehållet i publikationer och program på etniska språk; öka sändningstiden för program på tayspråk för att minska informationsfattigdomen för människor i avlägsna områden.

Detta är inte bara en teoretisk varning. Företaget bakom chatboten Claude menar att med tillräcklig datorkraft och med nuvarande utvecklingstakt skulle ett AI-system kunna designa och utveckla sin egen efterträdare. Denna milstolpe skulle ge betydande fördelar för vetenskap och medicin , men skulle också öka risken för att saker och ting spårar ur mänsklig kontroll.

För en verkligt effektiv paus krävs det konsensus från många stora AI-företag i flera länder, särskilt USA och Kina. Anthropic sa att deras interna forskningsinstitut kommer att utforska denna fråga med andra parter och vidta olika åtgärder för att bygga upp mekanismen för en omfattande omstrukturering.

Detta samtal kommer samtidigt som Anthropic förbereder sig för en börsintroduktion, en affär som kan värdera företaget till nästan 1 biljon dollar . Kombinationen av varningar om AI-säkerhet och aktiemarknadsambitioner skapar en anmärkningsvärd paradox.

Det här är inte första gången en stor aktör inom AI-området har uppmanat till en paus. År 2023 undertecknade en grupp inklusive Elon Musk och ett flertal AI-forskare ett brev som krävde ett sex månader långt stopp för utvecklingen, men det gav inga konkreta resultat.

Du kanske också gillar

Att installera piratkopierad programvara kan resultera i böter på upp till 1 miljard VND.VTV.vn – Installation och användning av piratkopierad Windows- och Office-programvara kan resultera i böter på upp till 1 miljard VND eller åtal.

Meta lanserar en serie prisvärda smarta glasögon.VTV.vn - Kapplöpningen om att integrera artificiell intelligens i bärbara enheter hettar till.

Det dyraste spelet i historien har ett officiellt pris.Tvärtemot många rykten kostar Grand Theft Auto VI från 80 dollar, vilket kan jämföras med vissa nya storspel.

Källa: https://znews.vn/anthropic-canh-bao-post1657460.html