OpenAI och Anthropic delar senaste AI-modeller med den amerikanska regeringen

De två företagen kommer att samarbeta med US AI Safety Institute, en enhet inom National Institute of Standards and Technology (NIST), en amerikansk federal myndighet. Detta ses som ett viktigt steg i hanteringen och tillsynen av AI-teknik, vilket har varit en stor angelägenhet sedan lanseringen av OpenAI:s ChatGPT.

”Detta är bara början, men en viktig milstolpe i arbetet med att ansvarsfullt hantera framtidens AI”, säger Elizabeth Kelly, chef för US AI Safety Institute.

Enligt avtalet kommer det amerikanska AI Safety Institute att ge feedback till båda företagen om potentiella säkerhetsförbättringar av deras modeller, både före och efter att de släpps för allmänheten. Institutet kommer också att arbeta nära det brittiska AI Safety Institute under denna process.

”Partnerskapet med American AI Safety Institute utnyttjar deras breda expertis för att rigoröst testa våra modeller innan de används i stor utsträckning. Detta förbättrar vår förmåga att identifiera och minska risker, vilket främjar ansvarsfull AI-utveckling”, säger Jack Clark, medgrundare och policychef på Anthropic.

Åtgärden är en del av ett försök att implementera Vita husets AI-verkställande order som ska släppas 2023, vilken syftar till att skapa en rättslig ram för snabb implementering av AI-modeller i USA.

Men medan den federala regeringen tillämpar en frivillig strategi, antog lagstiftare i Kalifornien, USA:s teknikhubb, en AI-säkerhetslag på delstatsnivå den 28 augusti. Lagförslaget, om det undertecknas av guvernören, skulle införa strängare regler för AI-industrin.

Sam Altman, VD för OpenAI, har uttryckt stöd för att reglera AI på nationell nivå snarare än delstatsnivå och menar att detta skulle bidra till att undvika risken att hindra forskning och innovation inom AI-området.

Samarbetet mellan ledande teknikföretag och den amerikanska regeringen visar en trend mot att balansera innovation och säkerhet inom det snabbt utvecklande området AI.

Källa: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html