Nye utviklinger i personaluroen rundt OpenAI.

Brevet som markerte et vendepunkt.

Reuters rapporterte 23. november, med henvisning til eksklusive kilder, at fire dager før avskjedigelsen av administrerende direktør Sam Altman sendte flere forskere ved OpenAI et brev til selskapets styre der de advarte om en kraftig oppdagelse innen kunstig intelligens (KI) som kunne true menneskeheten. Brevet, som aldri hadde blitt nevnt før, og den aktuelle KI-algoritmen, var betydelige utviklinger som førte til avskjedigelsen av Sam Altman, medgründer av OpenAI, 17. november. Han returnerte til sin stilling 21. november (amerikansk tid) etter to runder med forhandlinger med OpenAI. Ifølge kildene var brevet en av grunnene til OpenAIs styres beslutning om å sparke ham, selv om den offisielle kunngjøringen bare opplyste at Altman var «inkonsekvent og ikke direkte i sin kommunikasjon med styret».

Herr Altman ( til høyre ) og ledere fra teknologiselskaper diskuterer på APEC-konferansen i San Francisco, USA, 16. november.

Ifølge kilder nevnte en av OpenAIs mangeårige toppledere, Mira Murati, et prosjekt kalt Q* til ansatte 22. november og sa at selskapets styre hadde mottatt et brev før Altman ble sparket. En av kildene avslørte at OpenAI hadde gjort fremskritt med Q*-prosjektet, potensielt et gjennombrudd i søket etter superintelligens, også kjent som kunstig generell intelligens (AGI).

Selv om den nye modellen kun utfører matematikk på barneskolenivå, har dens evne til å løse slike problemer ført til at forskere er svært optimistiske med tanke på Q*s fremtidige suksess. Forskere ser på matematikk som en forutsetning for utviklingen av generativ AI. For tiden kan generativ AI skrive og oversette språk, selv om svarene på det samme spørsmålet kan variere sterkt. Å erobre evnen til å gjøre matematikk, et felt med bare ett riktig svar, innebærer imidlertid at AI vil ha bedre resonneringsevner, i likhet med mennesker. Forskere mener dette kan brukes på ny vitenskapelig forskning.

Sam Altman er tilbake som administrerende direktør i OpenAI.

Potensiell fare?

I et brev til OpenAIs styre skisserte forskerne kraften og de potensielle farene ved AI, ifølge kilder. Dataforskere har lenge diskutert farene som superintelligente maskiner utgjør, for eksempel om de kan bestemme seg for å ødelegge menneskeheten for egen fordel. Med dette som bakteppe ledet Altman arbeidet med å gjøre ChatGPT til en av de raskest voksende programvareapplikasjonene i historien, og tiltrakk seg investeringene og dataressursene som trengs for å komme nærmere AGI. I tillegg til å annonsere en rekke nye verktøy på et arrangement denne måneden, fortalte Altman verdensledere i San Francisco forrige uke at han trodde AGI var i horisonten. En dag senere ble han sparket av OpenAIs styre. OpenAI og Altman har ikke kommentert brevet.

Mange vestlige regjeringer og teknologiselskaper er bekymret for de potensielle risikoene ved AI, og har blitt enige om en ny, sikker testmekanisme. Ifølge AFP sa imidlertid FNs generalsekretær António Guterres at verden fortsatt «spiller haken og tennene» i arbeidet med å regulere AI, noe som risikerer å få langsiktige negative konsekvenser for alt fra jobber til kultur.

OpenAI og Microsoft er saksøkt for brudd på opphavsretten.

The Hill rapporterte 23. november at en gruppe sakprosaforfattere har anlagt søksmål der de påstår at OpenAI og Microsoft trente ChatGPT-verktøyet sitt til å kopiere verkene deres uten samtykke. I søksmålet som ble anlagt i en føderal domstol i New York, hevder hovedsaksøker, Julian Sancton, at han og andre forfattere ikke mottok noen kompensasjon for AI-ens kopierte verk, mens OpenAI og Microsoft oppnådde økonomisk suksess ved å kommersialisere verkene sine, og tjente milliarder av dollar i inntekter fra AI-produkter. Ifølge Reuters nektet en talsperson for OpenAI å kommentere søksmålet, mens en representant for Microsoft ikke umiddelbart svarte på en forespørsel om kommentar.

Kildekobling: https://thanhnien.vn/tinh-tiet-moi-vu-song-gio-nhan-su-openai-18523112320233668.htm