Het 'superintelligentie'-model dat ten grondslag ligt aan de OpenAI-controverse.

Volgens bronnen van Tech.co ging er, terwijl de controverse rond het ontslag van CEO Sam Altman en zijn daaropvolgende terugkeer naar OpenAI zich ontvouwde, een gerucht rond een brief die onderzoekers van het bedrijf naar de raad van bestuur hadden gestuurd. Daarin uitten ze hun bezorgdheid over het zich ontwikkelende AI-superintelligentiemodel, dat mogelijk een bedreiging voor de mensheid zou vormen.

Project Q*

Het model, intern bekend als Project Q* (uitgesproken als Q-ster), wordt geprezen als een potentiële grote doorbraak in OpenAI's streven naar algemene kunstmatige intelligentie (AGI) – een zeer autonome tak van superintelligentie die in staat is tot cumulatief leren en die mensen in de meeste taken overtreft.

Volgens bronnen dicht bij de zaak zou Q* een grote sprong voorwaarts kunnen betekenen op het gebied van kunstmatige intelligentie door de redeneermogelijkheden van AI radicaal te verbeteren en OpenAI dichter bij een grote doorbraak in de ontwikkeling van AGI te brengen.

In tegenstelling tot de huidige AI-modellen, die zich richten op het genereren van reacties op basis van vooraf aangeleerde informatie, is AGI een autonoom systeem dat "redenering" kan toepassen op beslissingen, waardoor het in staat is problemen op menselijk niveau op te lossen.

Hoewel AGI nog niet volledig is gerealiseerd, geloven veel experts dat deze technologie ook de potentie heeft voor cumulatief leren, een andere eigenschap die mensen in staat stelt hun vaardigheden te verbeteren.

Sommige bronnen suggereren dat Q* – een project van OpenAI – de bovengenoemde eigenschappen heeft kunnen aantonen bij het oplossen van problemen. Bovendien heeft Q*, dankzij de enorme rekenkracht van het model, zelfs basisschoolleerlingen overtroffen en redeneervaardigheden en cognitieve vermogens getoond die veel beter zijn dan die van de huidige AI-technologie.

Het is onduidelijk hoe lang Q* al in ontwikkeling is en wat de potentiële toepassingen ervan zouden kunnen zijn, maar OpenAI heeft medewerkers en bestuursleden over het project geïnformeerd voordat de personeelskwestie zich voordeed.

Ethische overwegingen

Hoewel Sam Altman, CEO van OpenAI, ervan overtuigd is dat AGI-technologie innovatie zal stimuleren, hebben sommige onderzoekers al snel gewezen op de potentiële gevaren van het project.

In een brief aan de raad van bestuur waarschuwden de onderzoekers voor het potentiële gevaar dat dit krachtige algoritme voor de mensheid vormt. De specifieke ethische bezwaren tegen AI die in de brief werden uiteengezet, werden niet openbaar gemaakt, maar de waarschuwingen waren voldoende om het besluit van de raad van bestuur om Altman te ontslaan te rechtvaardigen.

De eerste reden voor het ontslag van Altman was dat de CEO "slechte communicatieve vaardigheden" zou hebben. Kort daarna vond hij een nieuwe baan bij Microsoft. Deze actie leidde ertoe dat 700 van de 770 werknemers van OpenAI dreigden hetzelfde te doen als de CEO niet in zijn functie zou worden hersteld.

Toen het bedrijf op de rand van de afgrond stond, zag de raad van bestuur van OpenAI zich genoodzaakt Altman opnieuw tot topman te benoemen. Dit leidde tevens tot een ingrijpende reorganisatie van het managementteam en legde diepe verdeeldheid binnen de leiding bloot.

Nu Altman weer in de rol zit en Project Q* waarschijnlijk opnieuw groen licht krijgt, roept dit nieuwe vragen op.

Hoe realistisch is Project Q*?

Hoewel de turbulente periode bij OpenAI het concept van AGI in de schijnwerpers heeft gezet, is dit niet de eerste keer dat Altman de technologie ter sprake brengt.

In september kwam de ondernemer uit Silicon Valley in de problemen nadat hij AGI vergeleek met "een gemiddeld mens die je als collega zou kunnen inhuren". Hij herhaalde vervolgens opmerkingen die hij vorig jaar al had gemaakt over hoe deze AI "alles zou kunnen wat een collega op afstand ook kan", waaronder leren om dokter te worden en een goede programmeur.

Hoewel het vergelijken van AGI met de intelligentie van een "gemiddeld mens" niets nieuws is, werd Altmans gebruik van deze uitdrukking als "walgelijk" beschouwd door AI-ethici en professor Henry Shevlin van de Universiteit van Cambridge, nu de zorgen over de impact van AI op de werkzekerheid toenemen.

De potentiële doorbraken in AGI (Artificial General Intelligence) luiden ook de alarmbel voor andere onderzoekers: de technologie ontwikkelt zich sneller dan mensen de impact ervan volledig kunnen begrijpen.

OpenAI is ervan overtuigd dat de positieve resultaten van AGI het de moeite waard maken om dit risicovolle "mijnenveld" te betreden. Naarmate het bedrijf echter verder in deze richting doorzet, vrezen velen dat Altman commercieel succes boven het welzijn van gebruikers en de maatschappij stelt.

Reactie (0)