Nya detaljer i OpenAI-personalskandalen

Vändpunktsbrevet

Reuters citerade den 23 november exklusiva källor som sa att fyra dagar före avskedandet av VD Sam Altman skickade några forskare på OpenAI ett brev till företagets styrelse där de varnade för en kraftfull upptäckt inom artificiell intelligens (AI) som kunde hota mänskligheten. Brevet hade aldrig nämnts tidigare och den ovan nämnda AI-algoritmen var en viktig utveckling innan Sam Altman, OpenAIs medgrundare, avskedades den 17 november. Han återvände till denna position den 21 november (amerikansk tid) efter två förhandlingar med OpenAI. Enligt källor var brevet en faktor i listan över skäl som ledde till beslutet att avskeda OpenAIs styrelse, även om företaget i det officiella tillkännagivandet bara sa att Altman "inte var konsekvent och rättfram i sin kommunikation med styrelsen".

Herr Altman ( höger ) och ledare för teknikföretag diskuterade vid APEC-konferensen i San Francisco (USA) den 16 november.

En av OpenAIs långvariga chefer, Mira Murati, nämnde ett projekt som heter Q* för de anställda den 22 november och sa att företagets styrelse fick ett brev innan Altman avskedades, enligt informationen. En av källorna sa att OpenAI har gjort framsteg med Q*, vilket skulle kunna vara ett genombrott i strävan efter superintelligens, även känd som artificiell generell intelligens (AGI).

Även om modellen bara kan utföra matematik på grundskolenivå, gör lösningen av sådana problem forskare optimistiska om Q*s framtida framgång. Forskare ser matematik som en förutsättning för att utveckla generativ AI. Generativ AI kan för närvarande skriva och översätta språk, även om svaren på samma frågor kan vara väldigt olika. Men att behärska matematik, där det bara finns ett rätt svar, innebär att AI kommer att kunna resonera bättre, precis som människor. Forskare tror att detta skulle kunna tillämpas på ny vetenskaplig forskning.

Sam Altman återvänder som VD för OpenAI

Potentiell fara?

I ett brev till OpenAI:s styrelse redogjorde forskarna för den potentiella kraften och farorna med AI, enligt informationen. Datavetare har länge diskuterat farorna med superintelligenta maskiner, till exempel huruvida de kan besluta sig för att förgöra mänskligheten för egen vinning. Mot den bakgrunden har Altman lett arbetet med att göra ChatGPT till en av de snabbast växande mjukvaruapplikationerna i historien och attrahera de investeringar och datorresurser som behövs för att närma sig AGI. Förutom att tillkännage en rad nya verktyg vid ett evenemang denna månad, berättade Altman för världsledare i San Francisco förra veckan att han trodde att AGI var inom räckhåll. En dag senare avskedades han av OpenAI:s styrelse. OpenAI och Altman svarade inte omedelbart på förfrågningar om kommentarer till brevet.

Många västerländska regeringar och teknikföretag är oroade över de potentiella riskerna med AI och har kommit överens om en ny säkerhetstester. Enligt AFP sa dock FN:s generalsekreterare António Guterres att världen fortfarande "hänger ikapp" i sina ansträngningar att reglera AI, vilket riskerar att få långsiktiga negativa konsekvenser för allt från jobb till kultur.

OpenAI och Microsoft stämda för upphovsrätt

En grupp facklitterära författare har stämmat OpenAI och Microsoft och anklagar dem för att ha tränat ett verktyg som heter ChatGPT för att kopiera deras verk utan deras samtycke, rapporterade The Hill den 23 november. I stämningsansökan som lämnades in till en federal domstol i New York sa huvudkäranden, Julian Sancton, att han och andra författare inte har fått någon ersättning för de verk som kopierats av AI, medan OpenAI och Microsoft har uppnått ekonomisk framgång genom att kommersialisera sina verk och tjänat miljarder dollar i intäkter från AI-produkter. Enligt Reuters avböjde en talesperson för OpenAI att kommentera stämningen, medan en representant för Microsoft inte omedelbart svarade på en begäran om kommentarer.

Källänk: https://thanhnien.vn/tinh-tiet-moi-vu-song-gio-nhan-su-openai-18523112320233668.htm