Ředitel OpenAI říká, že pro boj s riziky umělé inteligence jsou potřeba nová pravidla

„Toho se obávám,“ řekl generální ředitel Sam Altman o možném využití umělé inteligence k zasahování do voleb a zdůraznil potřebu dalších pravidel a pokynů pro řízení oblasti umělé inteligence.

Generální ředitel OpenAI volá po pravidlech pro boj s riziky umělé inteligence — Generální ředitel ChatGPT Sam Altman během slyšení před americkým Kongresem . Foto: NBC

V posledních měsících se velké i malé společnosti předháněly v uvádění produktů umělé inteligence na trh, poháněné šílenstvím ChatGPT. Někteří kritici se obávají, že tato technologie zhorší společenské škody, včetně prohloubení předsudků a šíření dezinformací.

„Neexistuje způsob, jak plně regulovat umělou inteligenci, zvláště když se šílenství kolem umělé inteligence šíří po celém světě,“ řekl senátor Cory Booker, jeden z mnoha zákonodárců, kteří se ptají, jak nejlépe regulovat umělou inteligenci.

Senátorka Mazie Hirono poukázala na riziko rozsáhlých dezinformací s blížícími se volbami v roce 2024. Altmanová, která poprvé vystoupila před americkým Kongresem, navrhla, aby USA zvážily licenční a testovací požadavky pro vývoj modelů umělé inteligence.

Když byl požádán o komentář k tomu, jaká umělá inteligence by měla být licencována, uvedl, že model, který by mohl přesvědčit nebo manipulovat s přesvědčením člověka, by byl „tenkou hranicí k zvážení“.

Řekl také, že firmy by měly mít právo říct, že si nepřejí, aby jejich data byla používána k trénování umělé inteligence, což je něco, o čem se diskutuje i v americkém Kongresu.

Bílý dům svolal špičkové generální ředitele technologických firem, včetně Sama Altmana, aby se zabývali otázkou umělé inteligence. Američtí zákonodárci také pracují na nalezení řešení, která by zvýšila přínos technologií a národní bezpečnosti a zároveň omezila zneužívání umělé inteligence.

Zaměstnanec OpenAI nedávno navrhl, aby USA vytvořily licenční orgán pro umělou inteligenci, pravděpodobně s názvem Úřad pro bezpečnost a ochranu infrastruktury umělé inteligence neboli OASIS.

OpenAI podporuje Microsoft. Altman také vyzývá ke globální spolupráci v oblasti umělé inteligence a povzbuzuje společnosti k dodržování bezpečnostních předpisů.

Christina Montgomeryová, hlavní úřednice pro důvěryhodnost a ochranu osobních údajů ve společnosti IBM, vyzvala Kongres, aby zaměřil regulaci na oblasti s největším potenciálem pro společenskou újmu.

Hoang Ton (podle NBC, Reuters)

Zdroj