OpenAI og Anthropic deler de nyeste AI-modellene med den amerikanske regjeringen

De to selskapene vil samarbeide med US AI Safety Institute, en enhet under National Institute of Standards and Technology (NIST), et amerikansk føderalt byrå. Dette blir sett på som et viktig skritt i forvaltningen og tilsynet med AI-teknologi, som har vært en stor bekymring siden lanseringen av OpenAIs ChatGPT.

«Dette er bare begynnelsen, men en viktig milepæl i arbeidet med å håndtere fremtiden til kunstig intelligens på en ansvarlig måte», sa Elizabeth Kelly, direktør for US AI Safety Institute.

I henhold til avtalen vil det amerikanske AI Safety Institute gi tilbakemeldinger til begge selskapene om potensielle sikkerhetsforbedringer av modellene deres, både før og etter at de lanseres for offentligheten. Instituttet vil også samarbeide tett med det britiske AI Safety Institute under denne prosessen.

«Partnerskapet med American AI Safety Institute utnytter deres brede ekspertise til å teste modellene våre grundig før de distribueres i stor skala. Dette forbedrer vår evne til å identifisere og redusere risikoer, og fremme ansvarlig AI-utvikling», sa Jack Clark, medgründer og policysjef hos Anthropic.

Tiltaket er en del av et forsøk på å implementere Det hvite hus' AI-forordning som skal offentliggjøres i 2023, og som har som mål å skape et juridisk rammeverk for rask utrulling av AI-modeller i USA.

Men mens den føderale regjeringen følger en frivillig tilnærming, vedtok lovgivere i California, det amerikanske teknologisenteret, en lov om sikkerhet for AI på delstatsnivå 28. august. Lovforslaget, hvis det signeres av guvernøren, vil innføre strengere reguleringer for AI-bransjen.

Sam Altman, administrerende direktør i OpenAI, har uttrykt støtte til å regulere AI på nasjonalt nivå snarere enn på delstatsnivå, og hevder at dette ville bidra til å unngå risikoen for å hindre forskning og innovasjon innen AI-feltet.

Samarbeidet mellom ledende teknologiselskaper og den amerikanske regjeringen viser en trend mot å balansere innovasjon og sikkerhet i det raskt utviklende feltet AI.

Kilde: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html