Sam Altman verlaat het Veiligheidscomité van OpenAI en laat het over aan een onafhankelijke groep

Volgens de aankondiging op de officiële blog van OpenAI wordt de Veiligheids- en Beveiligingscommissie een onafhankelijke toezichthoudende instantie onder de raad van bestuur. Professor Zico Kolter van Carnegie Mellon University zal de commissie voorzitten, samen met andere leden zoals Quora CEO Adam D'Angelo, gepensioneerd generaal Paul Nakasone van het Amerikaanse leger en voormalig Executive Vice President van Sony Nicole Seligman. Al deze leden zijn momenteel lid van de raad van bestuur van OpenAI.

Na Altmans aftreden heeft de commissie haar veiligheidsbeoordeling van het nieuwste AI-model van het bedrijf, o1, afgerond. De commissie zal briefings blijven ontvangen van het veiligheids- en beveiligingsteam van OpenAI en behoudt zich het recht voor om de release uit te stellen als de veiligheidszorgen niet worden aangepakt.

Volgens OpenAI zal het Comité een belangrijke rol blijven spelen bij het bieden van technisch toezicht op huidige en toekomstige modellen, evenals bij de monitoring na de release. Het bedrijf zet zich in voor het ontwikkelen van ingebouwde veiligheidsprocessen met duidelijke evaluatiecriteria om ervoor te zorgen dat al zijn AI-modellen veilig worden uitgebracht.

Altmans besluit om de commissie te verlaten volgt op een brief van een groep van vijf Amerikaanse senatoren waarin OpenAI werd gevraagd om verduidelijking van het veiligheidsbeleid. Bijna de helft van het personeel van OpenAI, dat zich richtte op het bestuderen van de langetermijnrisico's van AI, heeft het bedrijf de afgelopen jaren verlaten. Voormalige OpenAI-onderzoekers hebben Altman bekritiseerd omdat hij niet pleitte voor strenge AI-regelgeving, maar in plaats daarvan de voorkeur gaf aan beleid dat de commerciële doelen van het bedrijf bevordert.

Beeldmateriaal: Justin Sullivan / Getty Images

Daarnaast heeft OpenAI zijn uitgaven aan lobbyen bij het Amerikaanse Congres aanzienlijk verhoogd. Het bedrijf heeft $ 800.000 begroot voor de eerste zes maanden van 2024, vergeleken met $ 260.000 voor heel 2023. Altman was ook lid van de Artificial Intelligence Safety and Security Board van het Amerikaanse ministerie van Binnenlandse Veiligheid, waar hij meewerkte aan aanbevelingen met betrekking tot AI in de kritieke infrastructuur van het land.

Hoewel Altman de Commissie voor Veiligheid en Privacy heeft verlaten, lijken er weinig tekenen te zijn dat de commissie beslissingen zal nemen die de commerciële koers van OpenAI ernstig zouden kunnen belemmeren. In mei kondigde OpenAI aan dat het via de commissie zou proberen om "terechte kritiek" op zijn werk te behandelen, hoewel "terechte kritiek" grotendeels subjectief is.

In een redactioneel artikel in The Economist uitten twee voormalige bestuursleden van OpenAI, Helen Toner en Tasha McCauley, hun zorgen over het vermogen van het bedrijf om zichzelf te besturen. Zij betoogden dat OpenAI momenteel niet in staat is om zichzelf verantwoording af te leggen onder de druk van winst.

Winst wordt een steeds belangrijkere drijfveer voor OpenAI. Het bedrijf is bezig met het ophalen van $ 6,5 miljard in een nieuwe financieringsronde, wat de waarde ervan op meer dan $ 150 miljard zou brengen. Om investeerders aan te trekken, overweegt OpenAI mogelijk om af te stappen van zijn hybride non-profitstructuur, die is ontworpen om de opbrengsten voor investeerders te beperken en zo het doel te bereiken van de ontwikkeling van AI ten behoeve van de mensheid.

Hung Nguyen (volgens TechCrunch)

Bron: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html