Ředitel OpenAI říká, že pro boj s riziky umělé inteligence jsou potřeba nová pravidla

„Toho se obávám,“ řekl generální ředitel Sam Altman o možném využití umělé inteligence k zasahování do voleb a zdůraznil potřebu dalších pravidel a pokynů pro řízení oblasti umělé inteligence.

Generální ředitel ChatGPT Sam Altman svědčí před americkým Kongresem . Foto: NBC

V posledních měsících se velké i malé společnosti předháněly v uvádění produktů umělé inteligence na trh, poháněné šílenstvím ChatGPT. Někteří kritici se obávají, že tato technologie zhorší společenské škody, včetně prohloubení předsudků a šíření dezinformací.

„Neexistuje způsob, jak plně regulovat umělou inteligenci, zvláště když se šílenství v oblasti umělé inteligence šíří po celém světě,“ řekl senátor Cory Booker, jeden z mnoha zákonodárců, kteří se ptají, jak umělou inteligenci nejlépe regulovat.

Senátorka Mazie Hirono poukázala na riziko rozsáhlých dezinformací s blížícími se volbami v roce 2024. Altmanová, která poprvé vystoupila před Kongresem, navrhla, aby USA zvážily licenční a testovací požadavky pro vývoj modelů umělé inteligence.

Když byl požádán o komentář k tomu, jaká umělá inteligence by měla být licencována, uvedl, že model, který by mohl přesvědčit nebo manipulovat s přesvědčením člověka, by byl „látkou k zvážení“.

Řekl také, že firmy by měly mít právo říct, že si nepřejí, aby jejich data byla používána k trénování umělé inteligence, což je něco, o čem se diskutuje i v americkém Kongresu.

Bílý dům svolal špičkové generální ředitele technologických firem, včetně Sama Altmana, aby se zabývali otázkou umělé inteligence. Američtí zákonodárci také pracují na nalezení řešení, která by zvýšila přínosy této technologie a zvýšila národní bezpečnost a zároveň omezila zneužívání umělé inteligence.

Zaměstnanec OpenAI nedávno navrhl, aby USA vytvořily licenční orgán pro umělou inteligenci, který by se mohl nazývat Úřad pro bezpečnost a ochranu infrastruktury umělé inteligence neboli OASIS.

OpenAI podporuje Microsoft. Altman také vyzývá ke globální spolupráci v oblasti umělé inteligence a povzbuzuje společnosti k dodržování bezpečnostních předpisů.

Christina Montgomeryová, hlavní úřednice pro důvěryhodnost a ochranu osobních údajů ve společnosti IBM, vyzvala Kongres, aby zaměřil regulaci na oblasti s největším potenciálem pro společenskou újmu.

Hoang Ton (podle NBC, Reuters)

Zdroj: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html