OpenAI podporuje myšlenku nových licencí pro vývoj pokročilých modelů umělé inteligence

Společnost, která vlastní ChatGPT a Dall-E, se proto zavázala k několika zásadám v oblasti umělé inteligence. „Společnost se zavázala ke spolupráci s vládou USA a tvůrci politik po celém světě na podpoře vývoje licenčních požadavků pro všechny vysoce výkonné modely umělé inteligence v budoucnu.“

Myšlenka licenčního procesu pro vývoj umělé inteligence, kterou společně prosazují lídři v oboru, jako je OpenAI, a vláda, vytváří prostor pro potenciální konflikt mezi startupy a vývojáři open-source, kteří ji vnímají jako pokus ztížit jim vstup do prostoru umělé inteligence.

Na slyšení před americkým Kongresem generální ředitel OpenAI Sam Altman jednou nadnesl myšlenku zřízení agentury odpovědné za licencování nebo odebírání produktů umělé inteligence, pokud porušují stanovená pravidla.

Zveřejnění OpenAI přichází v době, kdy další velké společnosti v oblasti umělé inteligence, jako jsou Microsoft a Google, zvažují podobné kroky.

Viceprezidentka společnosti pro globální záležitosti Anna Makanju však uvedla, že interní dokument o politice se bude lišit od politiky, kterou by měl Bílý dům zveřejnit. OpenAI uvedla, že „netlačí“, ale věří, že licencování je „praktický“ způsob, jak mohou vlády regulovat vznikající systémy.

„Je důležité, aby vlády věděly, zda by tyto supervýkonné systémy mohly potenciálně způsobit škodu,“ a „existuje jen velmi málo způsobů, jak se úřady o těchto systémech dozvědět, aniž by si je samy nahlásily.“

Makanju uvedl, že OpenAI podporuje licencování pouze modelů umělé inteligence výkonnějších než GPT-4 a chce zajistit, aby menší startupy nemusely nést regulační zátěž.

Odpovědnost a transparentnost

Společnost OpenAI také v interní dokumentaci naznačila, že je ochotna být otevřenější ohledně dat, která používá k trénování generátorů obrázků, jako je Dall-E. Společnost uvádí, že se zavázala k transparentnímu a odpovědnému přístupu k datům o vývoji umělé inteligence.

Analytici poznamenali, že závazky uvedené v memorandu OpenAI jsou ve velké míře v souladu s některými návrhy politik, které společnost Microsoft učinila v květnu. OpenAI poznamenala, že i přes investici od Microsoftu ve výši 10 miliard dolarů zůstává nezávislou společností.

Společnost, která vlastní ChatGPT, navíc provedla průzkum vodoznaků, aby sledovala pravost a autorská práva k obrázkům generovaným umělou inteligencí.

V memorandu se zdá, že OpenAI uznává potenciální rizika, která systémy umělé inteligence představují pro trh práce a nerovnost. Společnost v návrhu uvedla, že provede výzkum a předloží tvůrcům politik doporučení na ochranu ekonomiky před potenciálním „narušením“.

Společnost rovněž uvedla, že je otevřena tomu, aby lidem umožnila přístup k jejím systémům a testování jejich zranitelností v řadě oblastí, včetně urážlivého obsahu, rizik manipulace a dezinformací, a podporuje vytvoření centra pro sdílení informací v oblasti kybernetické bezpečnosti.

(Podle agentury Bloomberg)

Zdroj