Antropische waarschuwing

Anthropic heeft de grootste AI-bedrijven ter wereld opgeroepen om de ontwikkeling van het volgende geavanceerde model tijdelijk stop te zetten, met de waarschuwing dat het buiten menselijke controle zou kunnen raken.

Anthropic pleit voor een pauze in de ontwikkeling van nieuwe geavanceerde AI-systemen. Foto: Bloomberg .

In een blogpost van 4 juni suggereerde Anthropic dat het vertragen of pauzeren van de ontwikkeling van geavanceerde AI wereldwijd "een goede zaak zou kunnen zijn". Het bedrijf waarschuwde echter dat als zelfs maar één entiteit stopt, concurrenten gewoon door zullen gaan.

"Wij vinden dat de wereld de mogelijkheid moet hebben om de ontwikkeling van geavanceerde AI te vertragen of tijdelijk stop te zetten, zodat maatschappelijke structuren en onderzoek naar AI-veiligheid gelijke tred kunnen houden met het tempo van de technologische ontwikkeling," aldus Anthropic.

Wat Anthropic het meest zorgen baart, is het scenario van "recursieve zelfverbetering", waarbij AI de volgende versie van zichzelf ontwerpt, bouwt en traint zonder menselijke tussenkomst.

Het artikel, geschreven door Jack Clark en Marina Favaro, hoofd van het interne onderzoeksinstituut van Anthropic, onthult dat meer dan 80% van de code die in de systemen van het bedrijf terechtkomt, momenteel door Claude wordt geschreven. Ingenieurs voltooien per kwartaal ongeveer acht keer zoveel code als vóór 2025.

Dit vind je misschien ook leuk

Er is een haaiensoort ontdekt die onder water kan 'lopen'.In de ondiepe wateren van Papoea-Nieuw-Guinea is een nieuwe soort wandelhaai ontdekt. ​​Deze soort wordt echter mogelijk met uitsterven bedreigd.

AI-platforms ter ondersteuning van de publieke dienstverlening worden beoordeeld aan de hand van een nieuwe reeks criteria.VTV.vn - Vereisten met betrekking tot data, beveiliging, AI-modellen in de Vietnamese taal en zakelijke ondersteuningsmogelijkheden zijn opgenomen in de evaluatiecriteria.

Hervorming van programma's voor etnische talen om informatiearmoede te verminderen bij mensen in bergachtige gebieden.De kranten, radio- en televisiestations van Cao Bang zullen blijven innoveren op het gebied van format en de kwaliteit van de inhoud van publicaties en programma's in etnische talen verbeteren; de zendtijd van programma's in de Tay-taal wordt verlengd om de informatiearmoede onder mensen in afgelegen gebieden te verminderen.

Dit is niet zomaar een theoretische waarschuwing. Het bedrijf achter de chatbot Claude stelt dat een AI-systeem met voldoende rekenkracht en in het huidige ontwikkelingstempo zijn eigen opvolger zou kunnen ontwerpen en ontwikkelen. Deze mijlpaal zou aanzienlijke voordelen opleveren voor de wetenschap en de geneeskunde , maar zou ook het risico vergroten dat de situatie uit de hand loopt en de mens niet meer onder controle heeft.

Voor een echt effectieve pauze is consensus nodig van veel grote AI-bedrijven in meerdere landen, met name de VS en China. Anthropic gaf aan dat haar interne onderzoeksinstituut deze kwestie met andere partijen zal onderzoeken en verschillende stappen zal ondernemen om een ​​mechanisme voor een algehele herstructurering te helpen opzetten.

Dit telefoontje komt op een moment dat Anthropic zich voorbereidt op een beursgang, een deal die het bedrijf bijna 1 biljoen dollar zou kunnen waarderen. De combinatie van waarschuwingen over de veiligheid van AI en beursambities creëert een opmerkelijke paradox.

Dit is niet de eerste keer dat een belangrijke speler in de AI-sector oproept tot een pauze. In 2023 ondertekende een groep, waaronder Elon Musk en talrijke AI-onderzoekers, een brief waarin werd gevraagd om de ontwikkeling zes maanden stil te leggen, maar dit leverde geen concrete resultaten op.

Dit vind je misschien ook leuk

De prijs die je betaalt om naar het WK te kijken.Het WK 2026 wordt het duurste toernooi in de geschiedenis, waardoor het voor gewone fans steeds moeilijker wordt om wedstrijden bij te wonen en hun teams persoonlijk aan te moedigen.

De prijzen van de iPhone 18 Pro en 18 Pro Max zullen recordhoogtes bereiken.De iPhone 18 Pro en iPhone 18 Pro Max worden naar verwachting in september gelanceerd. Geruchten over het ontwerp, de camera en de AI trekken de aandacht van de techwereld, maar een ander, nog veelbesproken onderwerp is de prijs van deze vlaggenschipmodellen.

Hoe worden Vietnamese opinieleiders (KOL's) gerangschikt en gecategoriseerd?Met behulp van realistische data uit sociale media en een meerlaags verificatiemechanisme wil het Nationale KOL-portaal een transparante maatstaf worden voor de Vietnamese influencer-markt.

Bron: https://znews.vn/anthropic-canh-bao-post1657460.html