Sam Altman opouští bezpečnostní výbor OpenAI a přenechává ho nezávislé skupině.

Podle oznámení na oficiálním blogu OpenAI se Výbor pro bezpečnost a ochranu stane nezávislou kontrolní skupinou v rámci představenstva. Předsedou výboru bude profesor Zico Kolter z Carnegie Mellon University, spolu s dalšími členy, jako je generální ředitel Quory Adam D'Angelo, generál americké armády ve výslužbě Paul Nakasone a bývalá výkonná viceprezidentka společnosti Sony Nicole Seligman. Všichni tito členové jsou v současné době členy představenstva OpenAI.

Po Altmanově rezignaci výbor dokončil bezpečnostní kontrolu nejnovějšího modelu umělé inteligence společnosti, o1. Skupina bude i nadále dostávat informace od bezpečnostního týmu OpenAI a vyhrazuje si právo odložit vydání, pokud nebudou vyřešeny bezpečnostní obavy.

Podle společnosti OpenAI si výbor zachová důležitou roli v poskytování technického dohledu nad současnými i budoucími modely a také v monitorování po vydání. Společnost se zavázala k budování vestavěných bezpečnostních procesů s jasnými kritérii hodnocení, aby zajistila bezpečné vydání všech jejích modelů umělé inteligence.

Altmanovo rozhodnutí opustit výbor přichází poté, co skupina pěti amerických senátorů zaslala dopis, v němž žádá OpenAI o objasnění jejích bezpečnostních zásad. Téměř polovina zaměstnanců OpenAI, kteří se zaměřovali na studium dlouhodobých rizik umělé inteligence, v posledních letech společnost opustila. Bývalí výzkumníci OpenAI kritizovali Altmana za to, že se nezasazuje o silnou regulaci umělé inteligence a místo toho upřednostňuje zásady, které podporují komerční cíle společnosti.

Zdroj obrázku: Justin Sullivan / Getty Images

Společnost OpenAI navíc výrazně zvýšila své výdaje na lobování v americkém Kongresu . Společnost naplánovala rozpočet na 800 000 dolarů na prvních šest měsíců roku 2024, oproti 260 000 dolarům na celý rok 2023. Altman se také stal členem Rady pro bezpečnost a ochranu umělé inteligence Ministerstva vnitřní bezpečnosti USA, kde se podílel na tvorbě doporučení týkajících se umělé inteligence v celé kritické infrastruktuře země.

Ačkoli Altman opustil Výbor pro bezpečnost a ochranu soukromí, zdá se, že existuje jen málo náznaků, že by výbor činil rozhodnutí, která by mohla vážně narušit komerční dráhu OpenAI. V květnu OpenAI uvedla, že se bude snažit řešit „oprávněnou kritiku“ své práce prostřednictvím výboru, ačkoli „oprávněná kritika“ je do značné míry subjektivní.

V květnovém úvodníku v časopise The Economist vyjádřily dvě bývalé členky představenstva OpenAI, Helen Tonerová a Tasha McCauleyová, obavy ohledně schopnosti společnosti se sama spravovat a argumentovaly tím, že OpenAI v současné době není schopna nést odpovědnost pod tlakem zisku.

Zisky se stávají pro OpenAI stále důležitějším motorem. Společnost v současné době získává 6,5 miliardy dolarů v novém kole financování, které by ji ohodnotilo na více než 150 miliard dolarů. Aby přilákala investory, OpenAI by mohla zvážit opuštění své hybridní neziskové struktury, která je navržena tak, aby omezila výnosy investorů, a tím zajistila cíl vývoje umělé inteligence pro společné dobro lidstva.

Hung Nguyen (podle TechCrunchu)

Zdroj: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html