Nye detaljer i OpenAI-personelskandalen

Vendepunktbrevet

Reuters siterte 23. november eksklusive kilder som sa at fire dager før oppsigelsen av administrerende direktør Sam Altman, sendte noen forskere ved OpenAI et brev til selskapets styre der de advarte om en kraftig oppdagelse innen kunstig intelligens (KI) som kunne true menneskeheten. Brevet hadde aldri blitt nevnt før, og den ovennevnte KI-algoritmen var en viktig utvikling før Sam Altman, OpenAIs medgründer, ble sparket 17. november. Han returnerte til denne stillingen 21. november (amerikansk tid) etter to forhandlinger med OpenAI. Ifølge kilder var brevet én faktor på listen over årsaker som førte til beslutningen om å sparke OpenAIs styre, selv om selskapet i den offisielle kunngjøringen bare sa at Altman «ikke var konsekvent og direkte i kommunikasjonen med styret».

Herr Altman ( til høyre ) og ledere fra teknologiselskaper diskuterte på APEC-konferansen i San Francisco (USA) 16. november.

En av OpenAIs mangeårige ledere, Mira Murati, nevnte et prosjekt kalt Q* til ansatte 22. november og sa at selskapets styre mottok et brev før Altman ble sparket, ifølge kildene. En av kildene sa at OpenAI har gjort fremskritt med Q*, som kan være et gjennombrudd i jakten på superintelligens, også kjent som kunstig generell intelligens (AGI).

Selv om modellen bare er i stand til å gjøre matematikk på grunnskolenivå, gjør løsningen av slike problemer forskere optimistiske med tanke på Q*s fremtidige suksess. Forskere ser matematikk som en forutsetning for å utvikle generativ AI. Generativ AI kan for tiden skrive og oversette språk, selv om svarene på de samme spørsmålene kan være svært forskjellige. Men å mestre matematikk, der det bare finnes ett riktig svar, innebærer at AI vil være i stand til å resonnere bedre, som mennesker. Forskere mener dette kan brukes på ny vitenskapelig forskning.

Sam Altman er tilbake som administrerende direktør i OpenAI

Potensiell fare?

I et brev til OpenAIs styre skisserte forskerne den potensielle kraften og farene ved AI, ifølge kildene. Dataforskere har lenge diskutert farene som superintelligente maskiner utgjør, for eksempel om de kan bestemme seg for å ødelegge menneskeheten for egen fordel. Med dette som bakteppe har Altman ledet arbeidet med å gjøre ChatGPT til en av de raskest voksende programvareapplikasjonene i historien og tiltrekke seg investeringene og dataressursene som trengs for å komme nærmere AGI. I tillegg til å annonsere en rekke nye verktøy på et arrangement denne måneden, fortalte Altman verdensledere i San Francisco forrige uke at han trodde AGI var innen rekkevidde. En dag senere ble han sparket av OpenAIs styre. OpenAI og Altman svarte ikke umiddelbart på forespørsler om kommentar til brevet.

Mange vestlige regjeringer og teknologiselskaper er bekymret for de potensielle risikoene som AI utgjør, og har blitt enige om et nytt sikkerhetstestregime. Ifølge AFP sa imidlertid FNs generalsekretær António Guterres at verden fortsatt «henter etter» i arbeidet med å regulere AI, noe som risikerer å få langsiktige negative konsekvenser for alt fra jobber til kultur.

OpenAI og Microsoft saksøkt for opphavsrett

En gruppe sakprosaforfattere har anlagt søksmål mot OpenAI og Microsoft, og anklager dem for å ha trent et verktøy kalt ChatGPT til å kopiere verkene deres uten deres samtykke, rapporterte The Hill 23. november. I søksmålet som ble anlagt i en føderal domstol i New York, sa hovedsaksøker, Julian Sancton, at han og andre forfattere ikke har mottatt noen kompensasjon for verkene som er kopiert av AI, mens OpenAI og Microsoft har oppnådd økonomisk suksess ved å kommersialisere arbeidet sitt, og tjent milliarder av dollar i inntekter fra AI-produkter. Ifølge Reuters nektet en talsperson for OpenAI å kommentere søksmålet, mens en representant for Microsoft ikke umiddelbart svarte på en forespørsel om kommentar.

Kildekobling: https://thanhnien.vn/tinh-tiet-moi-vu-song-gio-nhan-su-openai-18523112320233668.htm