"Superintelligens"-modellen bakom OpenAI-kontroversen

[annons_1]

Enligt Tech.cos källor, medan kontroversen kring VD Sam Altmans avskedande och efterföljande återgång till OpenAI pågick, gällde ett av ryktena som cirkulerade ett brev som företagets forskare skickat till styrelsen, där de uttryckte oro över att den utvecklande AI-superintelligensmodellen potentiellt kan utgöra ett hot mot mänskligheten.

Projekt Q*

Modellen, internt känd som Project Q* (uttalas Q-stjärna), marknadsförs som potentiellt ett stort genombrott i OpenAI:s strävan efter generell artificiell intelligens (AGI) – en mycket autonom gren av superintelligens som kan kumulativt lära sig och överträffa människor i de flesta uppgifter.

Enligt källor nära ämnet skulle Q* kunna markera ett stort språng framåt inom artificiell intelligens genom att radikalt förbättra AI:s resonemangsförmåga och föra OpenAI närmare ett stort genombrott inom AGI-utveckling.

Till skillnad från nuvarande AI-modeller, som fokuserar på att generera svar baserade på förinlärd information, är AGI ett autonomt system som kan tillämpa "förnuft" på beslut, vilket ger det möjlighet att lösa problem på mänsklig nivå.

Även om AGI ännu inte är helt förverkligat, tror många experter att denna teknik också kommer att ha potential för kumulativt lärande, en annan egenskap som gör det möjligt för människor att självförbättra sina förmågor.

Vissa källor antyder att Q* – ett OpenAI-projekt – har kunnat demonstrera de ovannämnda egenskaperna vid problemlösning. Dessutom, tack vare modellens enorma datorkraft, har Q* kunnat överträffa grundskoleelever och uppvisa resonemangsförmåga och kognitiva förmågor som är vida överlägsna de som används i dagens AI-teknik.

Det är oklart hur länge Q* har varit under utveckling och vilka potentiella tillämpningar det kan ha, men OpenAI informerade anställda och styrelseledamöter om projektet innan personalkontroversen inträffade.

Etiska problem

Medan OpenAIs VD Sam Altman är övertygad om att AGI-tekniken kommer att driva innovation, har vissa forskare varit snabba med att påpeka projektets potentiella faror.

I ett brev till styrelsen varnade forskarna för den potentiella fara som denna kraftfulla algoritm utgör för mänskligheten. De specifika etiska farhågor kring AI som beskrivs i brevet avslöjades inte, men varningarna var tillräckliga för att motivera styrelsens beslut att avskeda Altman.

Samtidigt var den ursprungliga anledningen som angavs för Altmans avskedande att VD:n hade "dåliga kommunikationsförmågor". Kort därefter fick han en ny tjänst på Microsoft. Denna åtgärd ledde till att 700 av OpenAI:s 770 anställda hotade att göra detsamma om VD:n inte återanställdes.

Med företaget på gränsen till kollaps tvingades OpenAIs styrelse att återutnämna Altman till toppositionen – vilket också ledde till en omfattande omstrukturering av företagets ledningsgrupp och belyste djupa splittringar inom ledningen.

Nu när Altman är tillbaka i rollen och Project Q* sannolikt kommer att få grönt ljus igen, väcker detta nya frågor.

Hur realistiskt är Projekt Q*?

Även om de turbulenta tiderna inom OpenAI förde konceptet AGI i rampljuset, är det inte första gången Altman har nämnt tekniken.

I september hamnade Silicon Valley-entreprenören i trubbel efter att ha jämfört AGI med "en genomsnittlig människa man kan anställa som kollega". Han fortsatte med att upprepa kommentarer han gjorde förra året om hur denna AI kunde "göra vad som helst man kan med en distanskollega", inklusive att lära sig att bli läkare och en bra programmerare.

Även om det inte är något nytt att jämföra AGI med intelligensen hos en "genomsnittlig människa", ansågs Altmans användning av frasen vara "äcklig" av AI-etiker och professor Henry Shevlin vid Cambridge University, i takt med att oron kring AI:s inverkan på anställningstryggheten eskalerar.

De potentiella genombrotten inom AGI slår också larm hos andra forskare – att tekniken utvecklas snabbare än människor helt kan förstå dess inverkan.

OpenAI anser att de positiva resultaten av AGI gör detta riskabla "minfält" värt att prova. Men i takt med att företaget fortsätter att driva i denna riktning oroar sig många för att Altman prioriterar kommersiell framgång framför användarnas och samhällets fördelar.

Kommentar (0)