Sam Altman lämnar OpenAIs säkerhetskommitté och överlåter den till en oberoende grupp.

Enligt tillkännagivandet på OpenAIs officiella blogg kommer säkerhetskommittén att bli en oberoende tillsynsgrupp under styrelsen. Professor Zico Kolter vid Carnegie Mellon University kommer att vara ordförande för kommittén, tillsammans med andra medlemmar som Quoras VD Adam D'Angelo, den pensionerade generalen i den amerikanska armén Paul Nakasone och Sonys tidigare vice vd Nicole Seligman. Alla dessa medlemmar är för närvarande medlemmar i OpenAIs styrelse.

Efter Altmans avgång slutförde kommittén sin säkerhetsgranskning av företagets senaste AI-modell, o1. Gruppen kommer att fortsätta att få information från OpenAIs säkerhetsteam och förbehåller sig rätten att försena lanseringen om säkerhetsproblem inte åtgärdas.

Enligt OpenAI kommer kommittén att ha en viktig roll i att tillhandahålla teknisk tillsyn av nuvarande och framtida modeller, tillsammans med övervakning efter lansering. Företaget har åtagit sig att bygga inbyggda säkerhetsprocesser med tydliga utvärderingskriterier för att säkerställa att alla dess AI-modeller släpps på ett säkert sätt.

Altmans beslut att lämna kommittén kommer efter att en grupp på fem amerikanska senatorer skickat ett brev där de bad OpenAI att förtydliga sina säkerhetspolicyer. Nästan hälften av OpenAIs personal, som fokuserade på att studera de långsiktiga riskerna med AI, har lämnat företaget de senaste åren. Tidigare OpenAI-forskare har kritiserat Altman för att inte förespråka stark AI-reglering, utan istället förespråka policyer som främjar företagets kommersiella mål.

Bildkälla: Justin Sullivan / Getty Images

Dessutom har OpenAI avsevärt ökat sina utgifter för lobbyverksamhet inför den amerikanska kongressen . Företaget har budgeterat 800 000 dollar för de första sex månaderna 2024, jämfört med 260 000 dollar för hela 2023. Altman gick också med i det amerikanska säkerhetsdepartementets styrelse för artificiell intelligens (AI), där han bidrog till att ge rekommendationer relaterade till AI inom landets kritiska infrastruktur.

Även om Altman har lämnat säkerhets- och integritetskommittén verkar det finnas få tecken på att kommittén kommer att fatta beslut som allvarligt skulle kunna hindra OpenAIs kommersiella väg. I maj sa OpenAI att de skulle försöka ta itu med "giltig kritik" av sitt arbete genom kommittén, även om "giltig kritik" till stor del är subjektiv.

I en ledare i The Economist i maj uttryckte två tidigare styrelseledamöter i OpenAI, Helen Toner och Tasha McCauley, oro över företagets förmåga att styra sig självt och menade att OpenAI för närvarande inte kan hålla sig ansvarigt under vinstpressen.

Vinster blir en allt viktigare drivkraft för OpenAI. Företaget håller på att samla in 6,5 miljarder dollar i en ny finansieringsrunda som skulle värdera det till mer än 150 miljarder dollar. För att attrahera investerare kan OpenAI överväga att överge sin hybridstruktur för ideella organisationer, som är utformad för att begränsa avkastningen till investerare för att säkerställa målet att utveckla AI för mänsklighetens gemensamma bästa.

Hung Nguyen (enligt TechCrunch)

Källa: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html