OpenAI støtter ideen om nye lisenser for å utvikle avanserte AI-modeller

[annonse_1]

Følgelig har selskapet som eier ChatGPT og Dall-E forpliktet seg til flere politikk knyttet til AI. «Selskapet er forpliktet til å samarbeide med den amerikanske regjeringen og beslutningstakere over hele verden for å støtte utviklingen av lisenskrav for alle høytytende AI-modeller i fremtiden.»

Ideen om en lisensprosess for AI-utvikling, fremmet i fellesskap av bransjeledere som OpenAI og myndighetene, legger grunnlaget for en potensiell konflikt mellom oppstartsbedrifter og utviklere med åpen kildekode, som ser det som et forsøk på å gjøre det vanskelig å bryte seg inn i AI-rommet.

Under en høring for den amerikanske kongressen tok OpenAI-sjef Sam Altman opp ideen om å opprette et byrå som er ansvarlig for å lisensiere eller tilbakekalle AI-produkter dersom de bryter med etablerte regler.

OpenAIs avsløring kommer samtidig som andre store AI-selskaper som Microsoft og Google også vurderer lignende trekk.

Selskapets visepresident for globale saker, Anna Makanju, sa imidlertid at det interne policydokumentet ville avvike fra policyen Det hvite hus forventes å offentliggjøre. OpenAI sa at de ikke «presser på», men mener at lisensiering er en «praktisk» måte for myndigheter å regulere nye systemer på.

«Det er viktig for myndighetene å vite om disse superkraftige systemene potensielt kan forårsake skade», og «det finnes svært få måter myndighetene kan vite om disse systemene på uten å selvrapportere».

Makanju sa at OpenAI bare støtter lisensiering av AI-modeller som er kraftigere enn GPT-4, og ønsker å sikre at mindre oppstartsbedrifter ikke trenger å bære den regulatoriske byrden.

Ansvarlighet og åpenhet

OpenAI har også signalisert i intern dokumentasjon at de er villige til å være mer åpne om dataene de bruker til å trene bildegeneratorer som Dall-E. Selskapet sier at de er forpliktet til en transparent og ansvarlig tilnærming til AI-utviklingsdata.

Analytikere bemerket at forpliktelsene som er skissert i OpenAIs notat er svært i samsvar med noen av de politiske forslagene Microsoft la frem i mai. OpenAI bemerket at til tross for at de mottok en investering på 10 milliarder dollar fra Microsoft, er de fortsatt et uavhengig selskap.

I tillegg gjennomførte selskapet som eier ChatGPT en vannmerkeundersøkelse for å spore autentisiteten og opphavsretten til AI-genererte bilder.

I notatet ser det ut til at OpenAI erkjenner de potensielle risikoene AI-systemer utgjør for arbeidsmarkedet og ulikhet. Selskapet sa i utkastet at de vil gjennomføre forskning og gi anbefalinger til beslutningstakere for å beskytte økonomien mot potensiell «forstyrrelse».

Selskapet sa også at det er åpent for å la folk få tilgang til og teste systemene deres for sårbarheter på en rekke områder, inkludert støtende innhold, manipulasjonsrisiko og feilinformasjon, og støtter etableringen av et samarbeidende informasjonsdelingssenter om cybersikkerhet.

(Ifølge Bloomberg)

[annonse_2]
Kilde