Meer dan 80% van de broncode die het kunstmatige intelligentiebedrijf Anthropic afgelopen mei publiceerde, is geschreven door AI in plaats van door mensen. Nog maar een paar jaar geleden was dat percentage bijna nul.
Kunstmatige intelligentie (AI) nadert mogelijk het punt waarop het zijn eigen opvolgers kan creëren. Bron: Reuters
Deze verschuiving weerspiegelt het duizelingwekkende tempo van de ontwikkeling van kunstmatige intelligentie. Maar nog opmerkelijker is dat Anthropic, een van de toonaangevende bedrijven in de wereldwijde AI-race, de wereld heeft opgeroepen zich voor te bereiden op een vertraging of zelfs stopzetting van de ontwikkeling van geavanceerde AI-systemen als de risico's uit de hand lopen.
Op het eerste gezicht lijkt dit een paradox. Waarom zou een bedrijf dat profiteert van de AI-golf het erover hebben om gas terug te nemen?
Het antwoord ligt in een groeiende bezorgdheid binnen de technologieonderzoeksgemeenschap: AI nadert mogelijk het punt waarop het zijn eigen opvolgers kan creëren.
Jarenlang stonden mensen centraal in de technologische ontwikkeling. Ingenieurs ontwierpen nieuwe software, wetenschappers bouwden nieuwe algoritmes en experts bedienden de systemen. Maar dat zou kunnen veranderen naarmate AI een steeds grotere rol gaat spelen in AI-onderzoek en -ontwikkeling.
Moderne modellen kunnen tegenwoordig niet alleen code schrijven, maar ook nieuwe ideeën aandragen, experimenten opzetten, resultaten analyseren en systemen optimaliseren. Taken die voorheen uren of dagen van ervaren ingenieurs vergden, kunnen nu in enkele tientallen minuten worden voltooid.
Dit vind je misschien ook leuk
Deze ontwikkelingen leiden ertoe dat veel experts een scenario overwegen dat ooit als sciencefiction werd beschouwd: dat AI zichzelf zou kunnen verbeteren.
In theorie is het proces vrij eenvoudig. Een AI-systeem creëert een nieuwe, krachtigere versie van zichzelf. Deze nieuwe versie creëert vervolgens de volgende versie met nóg grotere mogelijkheden. Dit proces herhaalt zich continu, waarbij elke cyclus sneller en efficiënter verloopt dan de vorige.
Jack Clark, medeoprichter van Anthropic, voorspelde ooit dat er ongeveer 60% kans was dat er tegen 2029 een AI-systeem zou ontstaan dat in staat zou zijn een opvolgende generatie te creëren zonder directe menselijke tussenkomst.
Als dat gebeurt, zou de wereld een fase van "recursieve zelfverbetering" kunnen ingaan, zoals onderzoekers dat noemen. ("Recursie" is een programmeermethode waarbij een functie zichzelf aanroept om een probleem op te lossen.) Met andere woorden, AI zal niet alleen een hulpmiddel zijn om mensen te ondersteunen, maar zal een directe drijvende kracht achter zijn eigen ontwikkeling worden.
De eerste tekenen zijn zichtbaar. Eerder dit jaar presenteerde een AI-systeem van Google DeepMind oplossingen om de efficiëntie van datacenters te verbeteren en verschillende belangrijke algoritmen te optimaliseren die worden gebruikt bij het trainen van AI-modellen. Inmiddels stellen veel onderzoekers dat de huidige systemen een deel van het werk kunnen overnemen dat voorheen uitsluitend door engineeringteams werd uitgevoerd.
Voor optimisten zou dit de weg kunnen zijn naar ongekende wetenschappelijke doorbraken. Met AI in onderzoek zou het tempo van technologische ontwikkeling vele malen kunnen versnellen, waardoor er mogelijkheden ontstaan om problemen op te lossen die variëren van geneeskunde en nieuwe materialen tot schone energie.
Voorzichtige waarnemers stellen echter een andere vraag. Als AI steeds meer aspecten van AI-ontwikkeling overneemt, wie zal het systeem dan daadwerkelijk controleren?
Deze bezorgdheid komt niet voort uit scenario's met opstandige robots zoals in films. Wat veel experts meer zorgen baart, is de mogelijkheid dat mensen geleidelijk hun centrale rol in besluitvorming, risicobeoordeling en technologische ontwikkeling zullen verliezen.
Het versterken van de vriendschap tussen Vietnam en de Verenigde Staten.Op 3 juli bracht de delegatie van het Amerikaanse leger in de Stille Oceaan, onder leiding van luitenant-generaal Joel Vowell, plaatsvervangend commandant van het Amerikaanse leger in de Stille Oceaan, in het kader van het Pacific Partnership - Friends of the Pacific 2026-programma een beleefdheidsbezoek aan het militair commando van de provincie Quang Tri. De meeste experts zijn echter van mening dat de mogelijkheid van volledig onafhankelijke AI-ontwikkeling nog niet erg dichtbij is. De huidige modellen zijn nog steeds afhankelijk van een enorme computerinfrastructuur, hoogwaardige databronnen en een gigantisch elektriciteitsverbruik. Deze fysieke beperkingen blijven obstakels voor de snelheid van AI-ontwikkeling.
Maar het debat heeft een drastische wending genomen. Waar een paar jaar geleden de grootste vraag nog was hoeveel banen door AI vervangen zouden kunnen worden, staat de techindustrie nu voor een veel dieperliggend probleem.
Misschien zullen de AI-systemen die vandaag door mensen worden ontwikkeld, ooit de laatste systemen zijn die nog menselijke tussenkomst vereisen.
Bron: https://hanoimoi.vn/tu-cuoc-dua-ai-den-noi-lo-mat-kiem-soat-1159521.html
