«Superintelligens»-modellen bak OpenAI-skandalen

[annonse_1]

Ifølge kilder fra Tech.co , mens kontroversen rundt at administrerende direktør Sam Altman ble sparket og deretter returnert til OpenAI pågikk, oppsto et av ryktene om et brev sendt av selskapets forskere til styret, der de uttrykte bekymring for AI-superintelligensmodellen som er under utvikling og som potensielt kan utgjøre en trussel mot menneskeheten.

Prosjekt Q*

Modellen, internt kjent som Project Q* (uttales Q-stjerne), sies å representere et stort gjennombrudd i OpenAIs jakt på kunstig generell intelligens (AGI) – en svært autonom gren av superintelligens som er i stand til kumulativ læring og som utkonkurrerer mennesker i de fleste oppgaver.

Q* kan markere et stort sprang fremover innen kunstig intelligens ved å radikalt forbedre AIs resonneringsevner og bringe OpenAI nærmere et stort gjennombrudd i utviklingen av AGI, ifølge personer med kjennskap til saken.

I motsetning til nåværende AI-modeller, som fokuserer på evnen til å generere svar basert på tidligere lært informasjon, er AGI et autonomt system som kan anvende «fornuft» på beslutninger, noe som gir det problemløsningsevner på menneskelig nivå.

Selv om AGI ennå ikke er fullt ut realisert, tror mange eksperter at teknologien også vil ha evnen til å lære kumulativt, en annen egenskap som gir mennesker muligheten til å forbedre sine evner.

Enkelte kilder hevder at Q* – OpenAIs prosjekt har vært i stand til å demonstrere de ovennevnte egenskapene når det gjelder problemløsning. Ikke bare det, takket være modellens enorme beregningskraft har Q* vært i stand til å utkonkurrere elever på barneskolenivå, og demonstrert betydelige resonneringsevner og kognitive evner sammenlignet med funksjonene til dagens AI-teknologi.

Det er uklart hvor lenge Q* har vært under utvikling og hva bruksområdene kan være, men OpenAI informerte ansatte og styremedlemmer om prosjektet før personalskandalen brøt ut.

Etiske bekymringer

Selv om OpenAI-sjef Sam Altman føler seg trygg på at AGI-teknologi vil drive innovasjon, har noen forskere vært raske med å påpeke prosjektets potensielle farer.

I et brev til styret advarte forskerne om de potensielle farene denne kraftige algoritmen utgjør for menneskeheten. De spesifikke etiske bekymringene rundt AI som ble skissert i brevet ble ikke opplyst, men advarslene var nok til å rettferdiggjøre styrets beslutning om å sparke Altman.

I mellomtiden var den opprinnelige grunnen som ble gitt for å sparke Altman at administrerende direktør «kommuniserte dårlig». Han fant snart en ny stilling hos Microsoft. Denne handlingen fikk 700 av OpenAIs 770 ansatte til å true med å gjøre det samme hvis administrerende direktør ikke ble gjeninnsatt.

Med selskapet i fare for kollaps, ble OpenAIs styre tvunget til å gjeninnsette Altman i toppstillingen – noe som også førte til en større omstrukturering av selskapets ledergruppe og fremhevet dype splittelser i ledelsen.

Nå, med Altman tilbake i embetet og Project Q* potensielt får grønt lys igjen, reiser dette nye spørsmål.

Hvor realistisk er Prosjekt Q*?

Selv om de turbulente dagene hos OpenAI brakte konseptet AGI frem i søkelyset, er dette ikke første gang Altman har nevnt teknologien.

Silicon Valley-gründeren havnet i trøbbel i september etter å ha sammenlignet AGI med «et gjennomsnittlig menneske du kan ansette som kollega». Han fulgte opp kommentarer han kom med i fjor om hvordan AI kunne «gjøre hva som helst du kunne med en ekstern kollega», inkludert å lære å bli en god lege og programmerer.

Selv om det ikke er noe nytt å sammenligne AGI med intelligensen til et «gjennomsnittsmenneske», ble Altmans bruk av uttrykket ansett som «avskyelig» av AI-etikere og professor Henry Shevlin ved Cambridge University, ettersom bekymringer rundt AIs innvirkning på jobbsikkerhet eskalerer.

Potensielle gjennombrudd innen AGI vekker også alarmklokkene hos andre forskere – at teknologien utvikles raskere enn mennesker fullt ut kan forstå dens innvirkning.

OpenAI mener at de positive resultatene fra AGI gjør det risikable «minefeltet» verdt å forfølge. Men ettersom selskapet fortsetter å presse fremover i denne retningen, er mange bekymret for at Altman prioriterer kommersiell suksess fremfor brukernes og samfunnets interesser.

Phuong Anh (Kilde: Tech.co, The Guardian)

[annonse_2]
Kilde