„Otec“ GPT Chatu sdílí svůj největší strach z umělé inteligence.

„Můj nejhorší strach je, že způsobíme vážné následky – že my, tento obor, technologický průmysl – způsobíme světu vážné škody. Myslím, že se to může stát mnoha různými způsoby. Proto jsme založili tuto společnost,“ řekl Altman během slyšení před senátním podvýborem pro soukromí, technologie a právo 16. května.

Největší strach: AI může dělat chyby.

„Lidé si myslí, že pokud se tato technologie pokazí, mohlo by to dopadnout špatně, a my o tom chceme promluvit. Chceme spolupracovat s vládou , abychom tomu zabránili,“ řekl Altman, generální ředitel společnosti OpenAI (vývojář ChatGPT).

„Otec“ GPT Chatu sdílí svůj největší strach z umělé inteligence - 1 — Generální ředitel společnosti OpenAI Sam Altman složil přísahu na slyšení před justičním podvýborem Senátu. (Foto: Washington Post)

Sam Altman ve svém prvním slyšení v Kongresu rovněž vyzval k zavedení rozsáhlých předpisů, včetně zřízení nové vládní agentury odpovědné za licencování modelů umělé inteligence, s cílem řešit rostoucí obavy, že by umělá inteligence mohla zkreslovat realitu a vytvářet bezprecedentní bezpečnostní rizika.

Pan Altman vážně uznal způsoby, jakými by umělá inteligence mohla „způsobit světu značné škody“, a vyjádřil ochotu spolupracovat s legislativci na řešení rizik, která představuje ChatGPT jeho společnosti a další nástroje umělé inteligence.

Altman nastínil „rizikové“ chování, které představují technologie jako ChatGPT, včetně šíření „živých interaktivních dezinformací“ a emoční manipulace. Uznal, že umělá inteligence by mohla být použita k cílení útoků dronů.

„Pokud tato technologie selže, mohlo by to být velmi špatné,“ řekl.

Během téměř tříhodinové diskuse o potenciálně ničivých důsledcích však Altman potvrdil, že jeho společnost bude v zavádění technologií umělé inteligence pokračovat.

Tvrdil, že místo podstupování rizik dává „iterativní nasazení“ modelů umělé inteligence OpenAI organizacím čas na pochopení potenciálních hrozeb. Jedná se o strategický krok, který přináší do světa relativně slabé a „nedokonalé“ technologie, jež pomáhají odhalovat související bezpečnostní rizika.

„Otec“ GPT Chatu sdílí svůj největší strach z umělé inteligence - 2 — Tento obrázek znázorňuje aplikaci ChatGPT, která umožňuje počítačům chatovat s uživateli jako s lidmi.

Během posledních několika týdnů Altman podnikl globální turné dobré vůle, během kterého se soukromě setkal s tvůrci politik, včetně amerického prezidenta Bidena a členů Kongresu, aby se zabýval obavami ohledně rychlého zavádění ChatGPT a dalších technologií.

Slyšení 16. května znamenalo první příležitost pro širší veřejnost slyšet jeho poselství v době, kdy se Washington stále více potýká s regulací technologie, která narušuje pracovní místa, usnadňuje podvody a šíří dezinformace.

Na rozdíl od slyšení s jinými generálními řediteli technologických firem, jako je Shou Zi Chew z TikToku a Mark Zuckerberg z Mety, američtí zákonodárci Altmana přivítali relativně vřele.

Zdálo se, že naslouchají a vyjadřují otevřenost zvážení návrhů Altmana a dvou dalších svědků na slyšení: generální ředitelky IBM Christiny Montgomeryové a emeritního profesora Newyorské univerzity Garyho Marcuse.

Během slyšení senátního podvýboru pro soukromí, technologie a právo v justici vyjádřili senátoři hluboké znepokojení nad rychlým rozvojem umělé inteligence a argumentovali, že nedávný pokrok by mohl způsobit transformace mnohem větší než internet nebo být stejně nebezpečný jako atomová bomba.

Senátor John Neely Kennedy řekl svědkům: „Toto je vaše šance ukázat nám, jak se s tímto problémem správně vypořádat. Využijte ji.“

Zákonodárci obou stran vyjádřili otevřenost myšlence zřízení vládní agentury pověřené řízením a regulací vývoje umělé inteligence, ačkoli předchozí pokusy o vytvoření takové specifické agentury s dohledem Silicon Valley v Kongresu selhaly kvůli stranickým rozporům ohledně toho, jak takový masivní orgán vytvořit.

Není jasné, zda by takový návrh získal širokou podporu republikánů, kteří se obecně obávají rozšiřování vládních pravomocí. Senátor Josh Hawley z Missouri varoval, že taková agentura by mohla být „uvězněna zájmy, které musí sladit“.

Senátor Richard Blumenthal, předseda podvýboru, Altmanovu výpověď na slyšení ocenil: „Sam Altman se od ostatních generálních ředitelů naprosto odlišuje... Nejen svými slovy a rétorikou, ale i svými praktickými činy a ochotou se angažovat a zavázat ke konkrétním činům.“

Slyšení s generálním ředitelem Altmanem se konalo na pozadí rostoucích obav tvůrců politik ve Washingtonu ohledně hrozeb, které představuje umělá inteligence, jako je ChatGPT a další inovativní nástroje umělé inteligence, zejména v souvislosti s dezinformacemi, ochranou osobních údajů, porušováním autorských práv a kybernetickou bezpečností.

Zákonodárci vyjádřili lítost nad svým relativně laxním přístupem k odvětví umělé inteligence před volbami v roce 2016. Jejich první slyšení s generálním ředitelem společnosti Meta Zuckerbergem se konalo v roce 2018, kdy Facebook již byl obrovskou společností a právě se zapletl do skandálu Cambridge Analytica, který se týkal dat 87 milionů uživatelů Facebooku.

V té době, navzdory širokému konsensu obou stran, že umělá inteligence představuje hrozbu, se zákonodárci rozcházeli v názoru na pravidla regulující její používání nebo vývoj.

Komentář (0)