Het 'superintelligentie'-model achter het OpenAI-schandaal

Volgens bronnen bij Tech.co ontstond er, terwijl de controverse over het ontslag van CEO Sam Altman en zijn terugkeer naar OpenAI gaande was, een van de geruchten over een brief die de onderzoekers van het bedrijf naar de raad van bestuur hadden gestuurd. Hierin uitten ze hun zorgen over het in ontwikkeling zijnde model voor AI-superintelligentie dat mogelijk een bedreiging voor de mensheid zou kunnen vormen.

Project Q*

Het model, intern bekend als Project Q* (uitgesproken als Q-ster), zou een grote doorbraak moeten betekenen in OpenAI's streven naar algemene kunstmatige intelligentie (AGI) – een zeer autonome tak van superintelligentie die in staat is tot cumulatief leren en in de meeste taken beter presteert dan mensen.

Volgens ingewijden zou Q* een grote stap voorwaarts kunnen betekenen op het gebied van kunstmatige intelligentie door de redeneercapaciteiten van AI radicaal te verbeteren en OpenAI dichter bij een grote doorbraak in de ontwikkeling van AGI te brengen.

In tegenstelling tot huidige AI-modellen, die zich richten op het vermogen om reacties te genereren op basis van eerder geleerde informatie, is AGI een autonoom systeem dat 'redenering' kan toepassen op beslissingen, waardoor het probleemoplossende capaciteiten op menselijk niveau krijgt.

Hoewel AGI nog niet volledig is ontwikkeld, geloven veel deskundigen dat de technologie ook de mogelijkheid zal hebben om cumulatief te leren, een andere eigenschap waarmee mensen hun vaardigheden kunnen verbeteren.

Sommige bronnen beweren dat het project van Q* - OpenAI de bovengenoemde eigenschappen heeft kunnen aantonen bij het oplossen van problemen. Bovendien heeft Q*, dankzij de enorme rekenkracht van het model, basisschoolleerlingen overtroffen en aanzienlijke redeneervaardigheden en cognitieve vaardigheden laten zien in vergelijking met de functies van de huidige AI-technologie.

Het is onduidelijk hoe lang Q* al in ontwikkeling is en wat de mogelijke toepassingen zijn, maar OpenAI informeerde medewerkers en bestuursleden over het project voordat het personeelsschandaal uitbrak.

Ethische zorgen

Hoewel Sam Altman, CEO van OpenAI, ervan overtuigd is dat AGI-technologie innovatie zal stimuleren, wijzen sommige onderzoekers snel op de potentiële gevaren van het project.

In een brief aan de raad van bestuur waarschuwden de onderzoekers voor de potentiële gevaren van dit krachtige algoritme voor de mensheid. De specifieke ethische bezwaren tegen AI die in de brief werden genoemd, werden niet bekendgemaakt, maar de waarschuwingen waren voldoende om het besluit van de raad van bestuur om Altman te ontslaan te rechtvaardigen.

Ondertussen was de aanvankelijke reden voor het ontslag van Altman dat de CEO "slecht communiceerde". Hij vond al snel een nieuwe functie bij Microsoft. Deze actie bracht 700 van de 770 medewerkers van OpenAI ertoe te dreigen hetzelfde te doen als de CEO niet werd hersteld.

Toen het bedrijf op instorten stond, zag de raad van bestuur van OpenAI zich genoodzaakt Altman weer op zijn hoogste functie te benoemen. Dit leidde ook tot een grondige revisie van het directieteam van het bedrijf en bracht diepe verdeeldheid binnen de leiding aan het licht.

Nu Altman weer aan de slag is en Project Q* mogelijk weer groen licht krijgt, roept dit nieuwe vragen op.

Hoe realistisch is Project Q*?

Hoewel de roerige dagen bij OpenAI het concept van AGI in de schijnwerpers zetten, is dit niet de eerste keer dat Altman de technologie noemt.

De ondernemer uit Silicon Valley kwam in september in de problemen nadat hij AGI vergeleek met "een gemiddelde mens die je als collega zou kunnen aannemen". Hij ging in op de opmerkingen die hij vorig jaar had gemaakt over hoe AI "alles zou kunnen doen wat je met een externe collega zou kunnen", inclusief leren een goede dokter en programmeur te zijn.

Hoewel het vergelijken van AGI met de intelligentie van een 'gemiddelde mens' niets nieuws is, werd Altmans gebruik van de term door AI-ethici en professor Henry Shevlin van de Universiteit van Cambridge als 'afschuwelijk' beschouwd, nu de zorgen over de impact van AI op de baanzekerheid toenemen.

Mogelijke doorbraken op het gebied van AGI doen ook bij andere onderzoekers de alarmbellen rinkelen: de technologie wordt sneller ontwikkeld dan mensen de impact ervan volledig kunnen bevatten.

OpenAI gelooft dat de positieve resultaten van AGI het risicovolle "mijnenveld" de moeite waard maken. Maar nu het bedrijf deze richting blijft inslaan, maken velen zich zorgen dat Altman commercieel succes belangrijker vindt dan de belangen van gebruikers en de maatschappij.

Reactie (0)