"Superintelligens"-modellen bakom OpenAI-skandalen

[annons_1]

Enligt källor på Tech.co , medan kontroversen kring att VD Sam Altman skulle avskedas och sedan återvända till OpenAI pågick, uppstod ett av ryktena om ett brev som företagets forskare skickat till styrelsen, där de uttryckte oro över den AI-superintelligensmodell som utvecklas och som potentiellt skulle kunna utgöra ett hot mot mänskligheten.

Projekt Q*

Modellen, internt känd som Project Q* (uttalas Q-stjärna), sägs representera ett stort genombrott i OpenAI:s strävan efter artificiell generell intelligens (AGI) – en mycket autonom gren av superintelligens som kan kumulativt lära sig och överträffa människor i de flesta uppgifter.

Q* skulle kunna markera ett stort språng framåt inom artificiell intelligens genom att radikalt förbättra AI:s resonemangsförmåga och föra OpenAI närmare ett stort genombrott i utvecklingen av AGI, enligt personer med kännedom om ämnet.

Till skillnad från nuvarande AI-modeller, som fokuserar på förmågan att generera svar baserade på tidigare inlärd information, är AGI ett autonomt system som kan tillämpa "förnuft" i beslut, vilket ger det problemlösningsförmåga på mänsklig nivå.

Även om AGI ännu inte är helt förverkligat, tror många experter att tekniken också kommer att ha förmågan att lära sig kumulativt, ytterligare en egenskap som ger människor möjlighet att förbättra sina förmågor.

Vissa källor hävdar att Q* - OpenAI:s projekt har kunnat demonstrera ovanstående egenskaper vid problemlösning. Inte bara det, tack vare modellens enorma beräkningskraft har Q* kunnat överträffa grundskoleelever och visat betydande resonemangsförmåga och kognitiva förmågor jämfört med funktionerna i nuvarande AI-teknik.

Det är oklart hur länge Q* har varit under utveckling och vilka tillämpningar det kan tänkas ha, men OpenAI informerade anställda och styrelseledamöter om projektet innan personalskandalen bröt ut.

Etiska problem

Medan OpenAIs VD Sam Altman känner sig övertygad om att AGI-tekniken kommer att driva innovation, har vissa forskare varit snabba med att påpeka projektets potentiella faror.

I ett brev till styrelsen varnade forskarna för de potentiella farorna med denna kraftfulla algoritm för mänskligheten. De specifika etiska farhågorna kring AI som beskrivs i brevet avslöjades inte, men varningarna var tillräckliga för att motivera styrelsens beslut att avskeda Altman.

Samtidigt var den ursprungliga anledningen som angavs för att avskeda Altman att VD:n "kommunicerade dåligt". Han hittade snart en ny tjänst på Microsoft. Denna åtgärd fick 700 av OpenAI:s 770 anställda att hota med att göra detsamma om VD:n inte återanställdes.

Med företaget i riskzonen för kollaps tvingades OpenAIs styrelse att återinsätta Altman i topppositionen – vilket också ledde till en omfattande omstrukturering av företagets ledningsgrupp och belyste djupa splittringar inom ledningen.

Nu, med Altman tillbaka i tjänst och Project Q* potentiellt fått grönt ljus igen, väcker detta nya frågor.

Hur realistiskt är Projekt Q*?

Medan de tumultartade dagarna på OpenAI förde konceptet AGI i rampljuset, är det inte första gången Altman har nämnt tekniken.

Silicon Valley-entreprenören hamnade i knipa i september efter att ha jämfört AGI med "en genomsnittlig människa man kan anställa som kollega". Han följde upp kommentarer han fällde förra året om hur AI kunde "göra vad man än kan med en distanskollega", inklusive att lära sig att bli en bra läkare och programmerare.

Även om det inte är något nytt att jämföra AGI med intelligensen hos en "genomsnittlig människa", ansågs Altmans användning av frasen vara "avskyvärd" av AI-etiker och professor Henry Shevlin vid Cambridge University, i takt med att oron kring AI:s inverkan på anställningstryggheten eskalerar.

Potentiella genombrott inom AGI väcker också varningsklockor för andra forskare – att tekniken utvecklas snabbare än människor helt kan förstå dess inverkan.

OpenAI anser att de positiva resultaten av AGI gör det riskabla "minfältet" värt att utforska. Men i takt med att företaget fortsätter att driva framåt i denna riktning oroar sig många för att Altman prioriterar kommersiell framgång framför användarnas och samhällets intressen.

Kommentar (0)