Sam Altman forlater OpenAIs sikkerhetskomité og overlater den til en uavhengig gruppe.

Ifølge kunngjøringen på OpenAIs offisielle blogg vil sikkerhetskomiteen bli en uavhengig tilsynsgruppe underlagt styret. Professor Zico Kolter ved Carnegie Mellon University vil lede komiteen, sammen med andre medlemmer som Quora-sjef Adam D'Angelo, pensjonert general i den amerikanske hæren Paul Nakasone og tidligere visepresident i Sony, Nicole Seligman. Alle disse medlemmene er for tiden medlemmer av OpenAIs styre.

Etter Altmans avgang fullførte komiteen sin sikkerhetsgjennomgang av selskapets nyeste AI-modell, o1. Gruppen vil fortsette å motta orienteringer fra OpenAIs sikkerhetsteam, og forbeholder seg retten til å utsette lanseringen hvis sikkerhetshensyn ikke tas opp.

Ifølge OpenAI vil komiteen ha en viktig rolle i å sørge for teknisk tilsyn med nåværende og fremtidige modeller, samt overvåking etter utgivelse. Selskapet er forpliktet til å bygge innebygde sikkerhetsprosesser med klare evalueringskriterier for å sikre at alle AI-modellene deres utgis på en trygg måte.

Altmans beslutning om å forlate komiteen kommer etter at en gruppe på fem amerikanske senatorer sendte et brev der de ba OpenAI om å avklare sikkerhetsreglene sine. Nesten halvparten av OpenAIs ansatte, som fokuserte på å studere de langsiktige risikoene ved AI, har forlatt selskapet de siste årene. Tidligere OpenAI-forskere har kritisert Altman for ikke å argumentere for sterk AI-regulering, men i stedet favorisere retningslinjer som fremmer selskapets kommersielle mål.

Bildekreditt: Justin Sullivan / Getty Images

I tillegg har OpenAI økt utgiftene sine til lobbyvirksomhet overfor den amerikanske Kongressen betydelig. Selskapet har budsjettert med 800 000 dollar for de første seks månedene av 2024, sammenlignet med 260 000 dollar for hele 2023. Altman ble også medlem av det amerikanske departementet for innenlandssikkerhets styre for kunstig intelligens, hvor han bidro til å komme med anbefalinger knyttet til kunstig intelligens på tvers av landets kritiske infrastruktur.

Selv om Altman har forlatt sikkerhets- og personvernkomiteen, ser det ut til å være lite som tyder på at komiteen vil ta avgjørelser som kan hindre OpenAIs kommersielle vei i alvorlig grad. I mai sa OpenAI at de ville forsøke å ta opp «gyldig kritikk» av arbeidet sitt gjennom komiteen, selv om «gyldig kritikk» i stor grad er subjektiv.

I en lederartikkel i The Economist i mai uttrykte to tidligere styremedlemmer i OpenAI, Helen Toner og Tasha McCauley, bekymring for selskapets evne til å styre seg selv, og argumenterte for at OpenAI for øyeblikket ikke er i stand til å holde seg selv ansvarlig under profittpress.

Profitt blir en stadig viktigere drivkraft for OpenAI. Selskapet er i ferd med å hente inn 6,5 milliarder dollar i en ny finansieringsrunde som vil verdsette det til mer enn 150 milliarder dollar. For å tiltrekke investorer kan OpenAI vurdere å forlate sin hybride ideelle struktur, som er utformet for å begrense avkastningen til investorer for å sikre målet om å utvikle AI for menneskehetens felles beste.

Hung Nguyen (ifølge TechCrunch)

Kilde: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html