„Otec“ Chatu GPT sdílí svůj největší strach z umělé inteligence

„Můj nejhorší strach je, že my, tento obor, technologický průmysl – způsobíme světu vážnou škodu. Myslím, že se to může stát mnoha různými způsoby. Proto jsme založili tuto společnost,“ řekl Altman během slyšení před senátním podvýborem pro soukromí, technologie a právo 16. května.

Největší strach: Umělá inteligence se může mýlit

„Lidé si myslí, že pokud se tato technologie pokazí, mohla by se zkazit, a my se o tom chceme hlasitě vyjadřovat. Chceme spolupracovat s vládou , abychom tomu zabránili,“ řekl Altman, generální ředitel společnosti OpenAI (vývojář ChatGPT).

„Otec“ Chatu GPT sdílí svůj největší strach z umělé inteligence - 1 — Generální ředitel společnosti OpenAI Sam Altman skládá přísahu během slyšení před justičním podvýborem Senátu. (Foto: Washington Post)

Ve svém prvním svědectví před Kongresem Altman také vyzval k široké regulaci, včetně nové vládní agentury odpovědné za licencování modelů umělé inteligence, s cílem řešit rostoucí obavy, že umělá inteligence by mohla zkreslovat realitu a vytvářet bezprecedentní bezpečnostní rizika.

Pan Altman zaujal vážný postoj k tomu, jak by umělá inteligence mohla „způsobit světu značné škody“, a vyjádřil ochotu spolupracovat s legislativou na řešení rizik, která představuje ChatGPT jeho společnosti a další nástroje umělé inteligence.

Pan Altman nastínil „rizikové“ chování, které umožňují technologie jako ChatGPT, včetně šíření „živých interaktivních dezinformací“ a emoční manipulace. Uznal, že umělá inteligence by mohla být použita k cílení útoků dronů.

„Pokud se tato technologie pokazí, mohlo by to být špatné,“ řekl.

Přesto během téměř tříhodinové diskuse o potenciálně hrozných důsledcích pan Altman trval na tom, že jeho společnost bude pokračovat v zavádění technologií umělé inteligence.

Tvrdí, že spíše než riskovat, „iterativní nasazení“ modelů umělé inteligence OpenAI dává organizacím čas pochopit potenciální hrozby, což je strategický krok, který do světa přináší „relativně slabé“ a „nedokonalé“ technologie, které pomáhají odhalovat související bezpečnostní rizika.

„Otec“ Chatu GPT sdílí svůj největší strach z umělé inteligence - 2 — Ilustrace aplikace ChatGPT, která umožňuje počítačům chatovat s uživateli jako s lidmi.

Během posledních několika týdnů se pan Altman zúčastnil globálního turné dobré vůle, kde se soukromě setkal s tvůrci politik, včetně prezidenta Bidena a členů Kongresu, aby se zabýval obavami ohledně rychlého zavádění ChatGPT a dalších technologií.

Slyšení 16. května představuje první příležitost pro širší veřejnost, aby si jeho poselství vyslechla, a to v době, kdy se Washington stále více potýká s regulací technologie, která narušuje pracovní místa, usnadňuje podvody a šíří dezinformace.

Na rozdíl od slyšení s jinými generálními řediteli technologických firem, jako je Shou Zi Chew z TikToku a Mark Zuckerberg z Mety, američtí zákonodárci pana Altmana přijali relativně vřele.

Zdálo se, že naslouchají a vyjádřili otevřenost zvážení návrhů Altmana a dvou dalších svědků na slyšení: výkonné ředitelky IBM Christiny Montgomeryové a emeritního profesora Newyorské univerzity Garyho Marcuse.

Během slyšení senátního podvýboru pro soukromí, technologie a právo vyjádřili zákonodárci hluboké znepokojení nad rychlým rozvojem umělé inteligence a argumentovali, že nedávný pokrok by mohl být transformativnější než internet nebo stejně nebezpečný jako atomová bomba.

„Toto je vaše příležitost, abyste nám řekli, jak to udělat správně,“ řekl svědkům senátor John Neely Kennedy. „Využijte ji.“

Zákonodárci obou stran vyjádřili otevřenost myšlence vytvoření vládní agentury pověřené regulací vývoje umělé inteligence, ačkoli předchozí snahy o vytvoření specifické agentury s dohledem Silicon Valley v Kongresu selhaly, protože strany se rozcházely v názoru na to, jak takovou masivní agenturu utvářet.

Není jasné, zda by takový návrh získal širokou podporu mezi republikány, kteří se obecně obávají rozšiřování vládních pravomocí. Senátor Josh Hawley, republikán za Missouri, varoval, že by taková agentura mohla být „uvězněna zájmy, které má regulovat“.

Senátor Richard Blumenthal, předseda podvýboru, ocenil Altmanovu výpověď na slyšení: „Sam Altman se od ostatních generálních ředitelů naprosto liší... Nejen svými slovy a rétorikou, ale i svými skutečnými činy a ochotou se angažovat a zavázat ke konkrétním krokům.“

Slyšení s generálním ředitelem Altmanem přichází v době, kdy tvůrci politik ve Washingtonu stále více cítí obavy z hrozeb, které představuje umělá inteligence, jako je ChatGPT a další inovativní nástroje umělé inteligence, zejména v souvislosti s dezinformacemi, ochranou osobních údajů, porušováním autorských práv a kybernetickou bezpečností.

Zákonodárci vyjádřili lítost nad svým relativně laxním přístupem k odvětví umělé inteligence od doby před volbami v roce 2016. Jejich první slyšení s generálním ředitelem společnosti Meta Zuckerbergem se konalo v roce 2018, kdy byl Facebook již gigantem a čerstvým průkopníkem skandálu Cambridge Analytica, který shromažďoval data od 87 milionů uživatelů Facebooku.

V té době se zákonodárci, navzdory širokému konsensu obou stran, že umělá inteligence představuje hrozbu, nedokázali shodnout na pravidlech, která by upravovala její používání nebo vývoj.

(Zdroj: Noviny Tin Tuc/Fox News; Washington Post)

Užitečný
Emoce
Tvůrčí
Unikátní
Hněv