Världen är inte redo att utveckla AI lika smart som den mänskliga hjärnan.

Världen är inte redo för artificiell generell intelligens (AGI), eller den punkt där artificiell intelligens är lika smart som den mänskliga hjärnan, enligt en seniorforskare vid OpenAI.

Är generell artificiell intelligens en risk?

I åratal har forskare spekulerat i framväxten av artificiell generell intelligens, eller AGI, där artificiella system kommer att kunna hantera en mängd olika uppgifter lika bra som människor. Många ser dess framväxt som en existentiell risk, eftersom den skulle kunna göra det möjligt för datorer att fungera på sätt som människor inte kan föreställa sig.

Enligt Miles Brindage är världen inte redo för den artificiella generella intelligensens (AGI) tid.

Nu medger mannen som har till uppgift att se till att ChatGPT-utvecklaren OpenAI är redo för AGI att varken världen eller företaget självt är "redo" för nästa steg. Miles Brundage tjänstgjorde som "OpenAI:s seniora rådgivare för AGI-beredskap", men meddelade sin avgång denna vecka när företaget upplöste gruppen.

”Varken OpenAI eller något annat banbrytande laboratorium är redo (för AGI), och inte heller världen. För att vara tydlig, jag tror inte att detta är ett kontroversiellt uttalande bland OpenAI:s ledning, utan snarare en fråga om huruvida företaget och världen är på väg att vara redo vid rätt tidpunkt”, sa Brundage, som har tillbringat sex år med att hjälpa till att forma företagets AI-säkerhetsinitiativ.

Brundages avgång markerar det senaste i en rad anmärkningsvärda avhopp från OpenAI:s säkerhetsteam. Jan Leike, en framstående forskare, lämnade efter att ha sagt att "säkerhetskultur och processer har hamnat i bakgrunden till förmån för glänsande produkter". Medgrundaren Ilya Sutskever lämnade också för att starta sin egen AI-startup med fokus på att utveckla säker AGI.

Brundages upplösning av sin "AGI Readiness"-grupp kommer bara månader efter att företaget upplöste sin "Superalignment"-grupp som var dedikerad till att mildra långsiktiga AI-risker, vilket blottade spänningar mellan OpenAIs ursprungliga uppdrag och dess kommersiella ambitioner.

Vinstpressen driver OpenAI bort från den säkra vägen

OpenAI står enligt uppgift inför press att gå från att vara ett ideellt till ett vinstdrivande företag inom två år – eller riskera att förlora finansiering från sin senaste investeringsrunda på 6,6 miljarder dollar. Denna förskjutning mot kommersialisering har länge varit en oro för Brundage, som har uttryckt reservationer sedan 2019 då OpenAI först etablerade sin vinstdrivande avdelning.

OpenAIs VD Sam Altman har "huvudvärk" på grund av pressen företaget har att söka vinst.

I sin förklaring till sin avgång nämnde Brundage ökande begränsningar av hans frihet att forska och publicera på det framstående företaget. Han betonade behovet av en oberoende röst i diskussioner om AI-policy, fri från branschfördomar och intressekonflikter. Efter att ha rådgivit OpenAI:s ledning om interna förberedelser tror han att han nu kan ha större inverkan på global AI-styrning utanför organisationen.

Avhoppen återspeglar också en djupare kulturell klyfta inom OpenAI. Många forskare gick med för att främja AI-forskning och befinner sig nu i en alltmer produktdriven miljö. Intern resursallokering har blivit en flammpunkt – rapporter tyder på att Leikes team nekades datorkraft för säkerhetsforskning innan det upplöstes.

OpenAI har de senaste månaderna mött frågor om sina planer för att utveckla artificiell intelligens och hur seriöst de tar säkerhet. Trots att ChatGPT grundades som en ideell organisation som är dedikerad till att undersöka hur man bygger säker artificiell intelligens, har deras framgång lett till betydande investeringar och press att använda den nya tekniken för vinst.

Källa: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm