Zou het 'super AI'-project dat de mensheid bedreigt, kunnen bijdragen aan het ontslag van CEO Altman van OpenAI?

In een bericht van 23 november citeerde Reuters twee bronnen die zeiden dat de brief nog nooit eerder was genoemd en dat het AI-algoritme een belangrijke ontwikkeling was voordat Sam Altman, medeoprichter en CEO van OpenAI, op 17 november werd ontslagen. Volgens deze bronnen was de brief een van de redenen die leidden tot het besluit om de raad van bestuur van OpenAI te ontslaan.

De onderzoekers die de brief schreven en verstuurden, reageerden niet meteen op een verzoek om commentaar.

Altman maakte eind november een triomfantelijke comeback, nadat meer dan 700 OpenAI-medewerkers dreigden te vertrekken en zich bij Microsoft aan te sluiten, samen met de ontslagen CEO. Dit maakte een einde aan bijna een week van onrust met een reeks onverwachte ontwikkelingen bij OpenAI, een van de meest vooraanstaande AI-onderzoeksbureaus ter wereld en eigenaar van de populaire applicatie ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — De heer Altman op een APEC-evenement in de VS op 16 november.

Volgens een van de bronnen noemde Mira Murati, een van OpenAI's senior managers van lange tijd, op 22 november een project met de naam Q* (uitgesproken als "Q Star") tegenover haar werknemers. Ook zei ze dat er vóór de wereldwijde technologische schokgolf van afgelopen weekend een brief was gestuurd naar de raad van bestuur van het bedrijf.

Nadat dit verhaal naar buiten kwam, zei een woordvoerder van OpenAI dat mevrouw Murati het personeel had verteld wat de media zouden melden, maar dat ze geen commentaar wilde geven op de juistheid van de informatie.

Sam Altman keert terug als CEO van OpenAI

Een van de bronnen onthulde dat OpenAI vooruitgang heeft geboekt met Project Q*. Sommige mensen binnen het bedrijf geloven dat het project een doorbraak zou kunnen betekenen in OpenAI's streven naar superintelligentie, ook wel bekend als kunstmatige algemene intelligentie (AGI). Het bedrijf definieert AGI als een AI-systeem dat slimmer is dan mensen.

Met zijn enorme rekenkracht kan het nieuwe model volgens de bron een aantal problemen oplossen. Hoewel het model alleen rekenwerk op basisschoolniveau uitvoert, zegt de bron dat het oplossen van dergelijke problemen onderzoekers zeer optimistisch stemt over het toekomstige succes van Q*.

Onderzoekers zien wiskunde als een frontlinie in de ontwikkeling van generatieve AI. Momenteel kan generatieve AI schrijven en vertalen tussen talen, hoewel de antwoorden op dezelfde vragen sterk kunnen verschillen. Maar het beheersen van wiskunde – waar maar één juist antwoord is – impliceert dat AI beter zal kunnen redeneren, net als menselijke intelligentie. AI-onderzoekers geloven dat dit kan worden toegepast in nieuw wetenschappelijk onderzoek.

In tegenstelling tot een computer die slechts een beperkt aantal berekeningen kan uitvoeren, kan AGI generaliseren, leren en problemen begrijpen. In een brief aan het OpenAI-bestuur benadrukten de onderzoekers de kracht en potentiële gevaren van AI, aldus bronnen. Computerwetenschappers discussiëren al lang over de gevaren van superintelligente machines, zoals de vraag of ze zouden kunnen besluiten de mensheid te vernietigen in hun eigen voordeel.

In die context leidde de heer Altman de inspanningen om ChatGPT om te vormen tot een van de snelstgroeiende softwaretoepassingen in de geschiedenis en om de investeringen en computerbronnen aan te trekken die nodig waren van Microsoft om dichter bij gegeneraliseerde superintelligentie (AGI) te komen.

Naast de aankondiging van een groot aantal nieuwe tools tijdens een evenement deze maand, vertelde de heer Altman vorige week aan wereldleiders in San Francisco dat hij gelooft dat AGI binnen handbereik is.

Een dag later ontsloeg de raad van bestuur van OpenAI de heer Altman.

Bronlink