"Superintelligens"-modellen bakom OpenAI-skandalen

[annons_1]

Enligt källor på Tech.co , medan kontroversen kring VD Sam Altmans sparken och sedan återgång till OpenAI pågick, handlade ett av ryktena om ett brev som företagets forskare skickat till styrelsen, där de uttryckte oro över AI-superintelligensmodellen som utvecklas och som potentiellt skulle kunna utgöra ett hot mot mänskligheten.

Projekt Q*

Modellen, internt känd som Project Q* (uttalas Q-stjärna), sägs representera ett stort genombrott i OpenAI:s strävan efter artificiell generell intelligens (AGI) – en mycket autonom gren av superintelligens som kan kumulativt lära sig och överträffa människor i de flesta uppgifter.

Q* skulle kunna markera ett stort språng framåt inom artificiell intelligens genom att radikalt förbättra AI:s resonemangsförmåga och föra OpenAI närmare ett stort genombrott i utvecklingen av AGI, enligt personer med kännedom om ämnet.

Till skillnad från nuvarande AI-modeller, som fokuserar på förmågan att generera svar baserade på tidigare inlärd information, är AGI ett autonomt system som kan tillämpa "förnuft" i beslut, vilket ger det problemlösningsförmåga på mänsklig nivå.

Även om AGI ännu inte är helt förverkligat, tror många experter att tekniken också kommer att ha förmågan att lära sig kumulativt, ytterligare en egenskap som ger människor möjlighet att förbättra sina förmågor.

Vissa källor hävdar att Q* - OpenAI:s projekt har kunnat demonstrera ovanstående egenskaper vid problemlösning. Inte bara det, tack vare modellens enorma beräkningskraft har Q* kunnat överträffa grundskoleelever, och visat resonemangsförmåga och kognitiva förmågor betydligt bortom vad nuvarande AI-teknik kan erbjuda.

Det är oklart hur länge Q* har varit under utveckling och vilka tillämpningar det kan tänkas ha, men OpenAI informerade anställda och styrelseledamöter om projektet innan personalskandalen bröt ut.

Etiska problem

Medan OpenAIs VD Sam Altman känner sig övertygad om att AGI-tekniken kommer att driva innovation, har vissa forskare varit snabba med att påpeka projektets potentiella faror.

I ett brev till styrelsen varnade forskarna för de potentiella farorna med denna kraftfulla algoritm för mänskligheten. De specifika etiska farhågorna kring AI som beskrivs i brevet avslöjades inte, men varningarna var tillräckliga för att motivera styrelsens beslut att avskeda Altman.

Samtidigt var den ursprungliga anledningen som angavs för att avskeda Altman att VD:n "kommunicerade dåligt". Han hittade snart en ny tjänst på Microsoft. Denna åtgärd fick 700 av OpenAI:s 770 anställda att hota med att göra detsamma om VD:n inte återanställdes.

Med företaget i riskzonen för kollaps tvingades OpenAIs styrelse att återinsätta Altman i topppositionen – vilket också ledde till en omfattande omstrukturering av företagets ledningsgrupp och belyste djupa splittringar inom ledningen.

Nu när Altman är tillbaka i tjänst och Project Q* sannolikt kommer att få grönt ljus igen, väcker det nya frågor.

Hur realistiskt är Projekt Q*?

Även om de tumultartade dagarna på OpenAI har fört konceptet AGI i rampljuset, är det inte första gången Altman har nämnt tekniken.

Silicon Valley-entreprenören hamnade i knipa i september efter att ha jämfört AGI med "en genomsnittlig människa man kan anställa som kollega". Han följde upp kommentarer han fällde förra året om hur AI kunde "göra vad man än kan med en distanskollega", inklusive att lära sig att vara läkare och en bra programmerare.

Även om det inte är något nytt att jämföra AGI med intelligensen hos en "genomsnittlig människa", ansågs Altmans användning av frasen vara "avskyvärd" av AI-etikern och professorn vid Cambridge University, Henry Shevlin, i takt med att oron kring AI:s inverkan på anställningstryggheten eskalerar.

Potentiella genombrott inom AGI väcker också varningsklockor för andra forskare – att tekniken utvecklas snabbare än människor helt kan förstå dess inverkan.

OpenAI anser att de positiva resultaten av AGI gör det riskabla "minfältet" värt att utforska. Men i takt med att företaget fortsätter att driva framåt i denna riktning oroar sig många för att Altman prioriterar kommersiell framgång framför användarnas och samhällets intressen.

Kommentar (0)