De wereld is er nog niet klaar voor om AI te ontwikkelen die net zo slim is als het menselijk brein.

Volgens een senior onderzoeker bij OpenAI is de wereld nog niet klaar voor algemene kunstmatige intelligentie (AGI), of het punt waarop kunstmatige intelligentie net zo slim is als het menselijk brein.

Is algemene kunstmatige intelligentie een risico?

Jarenlang hebben onderzoekers gespeculeerd over de opkomst van kunstmatige algemene intelligentie (AI), waarbij kunstmatige systemen een breed scala aan taken net zo goed zouden kunnen uitvoeren als mensen. Velen zien de opkomst ervan als een existentieel risico, omdat het computers in staat zou kunnen stellen te functioneren op manieren die mensen zich niet kunnen voorstellen.

Volgens de heer Miles Brindage is de wereld nog niet klaar voor het tijdperk van kunstmatige algemene intelligentie (AGI).

De man die ervoor moet zorgen dat ChatGPT-ontwikkelaar OpenAI klaar is voor AGI, geeft toe dat noch de wereld, noch het bedrijf zelf "klaar" is voor de volgende stap. Miles Brundage was "OpenAI's senior adviseur voor AGI-gereedheid", maar kondigde deze week zijn vertrek aan toen het bedrijf de groep ontbond.

"Noch OpenAI, noch enig ander baanbrekend lab is klaar (voor AGI), en de wereld evenmin. Om duidelijk te zijn: ik denk niet dat dit een controversiële uitspraak is binnen de leiding van OpenAI, maar eerder een kwestie van of het bedrijf en de wereld op schema liggen om er op het juiste moment klaar voor te zijn", aldus Brundage, die zes jaar lang de AI-veiligheidsinitiatieven van het bedrijf heeft helpen vormgeven.

Het vertrek van Brundage is het laatste in een reeks opvallende vertrekken binnen de veiligheidsteams van OpenAI. Jan Leike, een vooraanstaand onderzoeker, vertrok nadat hij had gezegd dat "veiligheidscultuur en -processen ondergeschikt zijn geworden aan glimmende producten." Medeoprichter Ilya Sutskever vertrok eveneens om zijn eigen AI-startup te lanceren, gericht op de ontwikkeling van veilige AGI.

Brundage ontbindt zijn "AGI Readiness"-groep slechts enkele maanden nadat het bedrijf de "Superalignment"-groep ontbond, die zich richtte op het beperken van langetermijnrisico's van AI. Hiermee komt de spanning tussen de oorspronkelijke missie van OpenAI en de commerciële ambities aan het licht.

Winstdruk duwt OpenAI van het veilige pad af

OpenAI staat naar verluidt onder druk om binnen twee jaar de overstap te maken van een non-profitorganisatie naar een commerciële onderneming – anders riskeert het bedrijf financiering te verliezen uit de recente investeringsronde van $ 6,6 miljard. Deze verschuiving naar commercialisering baart Brundage al lang zorgen. Hij uitte al zijn bedenkingen sinds OpenAI in 2019, toen het zijn commerciële divisie oprichtte.

Sam Altman, CEO van OpenAI, heeft "hoofdpijn" vanwege de druk die het bedrijf voelt om winst te maken.

Ter toelichting op zijn vertrek noemde Brundage de toenemende beperkingen op zijn vrijheid om onderzoek te doen en te publiceren bij het vooraanstaande bedrijf. Hij benadrukte de noodzaak van een onafhankelijke stem in AI-beleidsdiscussies, vrij van vooringenomenheid binnen de sector en belangenconflicten. Nadat hij de leiding van OpenAI had geadviseerd over interne voorbereidingen, gelooft hij dat hij nu van buitenaf een grotere impact kan hebben op de wereldwijde AI-governance.

De vertrekken weerspiegelen ook een diepere culturele kloof binnen OpenAI. Veel onderzoekers sloten zich aan om AI-onderzoek te bevorderen en bevinden zich nu in een steeds meer productgedreven omgeving. Interne toewijzing van middelen is een knelpunt geworden: rapporten geven aan dat Leikes team geen rekenkracht kreeg voor veiligheidsonderzoek voordat het werd ontbonden.

OpenAI heeft de afgelopen maanden vragen gekregen over de plannen voor de ontwikkeling van kunstmatige intelligentie en hoe serieus het bedrijf veiligheid neemt. Hoewel ChatGPT is opgericht als een non-profitorganisatie die zich toelegt op onderzoek naar de ontwikkeling van veilige kunstmatige intelligentie, heeft het succes van ChatGPT geleid tot aanzienlijke investeringen en druk om de nieuwe technologie winstgevend te gebruiken.

Bron: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm