Hledání bezpečnostních standardů pro umělou inteligenci

SGGP 31. 7. 2023 9:35

Poté, co Evropa začala s přípravou a brzy i spustil první zákon na světě o umělé inteligenci (AI), čtyři přední američtí „giganti“ v oblasti internetové těžby dat právě založili skupinu s názvem Frontier Model Forum.

Hlavním cílem Frontier Model Forum je propagace zodpovědné umělé inteligence. Foto: THINKWITHNICHE

Strany se scházejí

Skupina, která zahrnuje společnosti Anthropic, Google, Microsoft a OpenAI, vlastníka ChatGPT, uvedla, že hlavními cíli Frontier Model Forum je pomoci snížit rizika představovaná platformami umělé inteligence a vyvinout oborové standardy. Frontier Model Forum vytvoří nové fórum s následujícími hlavními cíli: Podporovat výzkum v oblasti bezpečnosti umělé inteligence na podporu vývoje, snižovat rizika a standardizovat hodnocení a úrovně bezpečnosti; identifikovat osvědčené postupy pro vývoj a nasazení modelů a pomoci veřejnosti pochopit povahu, možnosti, omezení a dopady technologie; a spolupracovat s tvůrci politik, akademiky, občanskou společností a společnostmi na sdílení znalostí o rizicích a bezpečnosti.

Technologičtí giganti se tradičně bránili zvýšené regulaci, ale tentokrát technologický průmysl do značné míry změnil svůj postoj k rizikům, která představuje umělá inteligence. Společnosti zapojené do iniciativy Frontier Model Forum se zavázaly sdílet osvědčené postupy mezi sebou a zveřejnit informace vládám a občanské společnosti.

Konkrétně se Frontier Model Forum zaměří na rozsáhlé, ale stále nově vznikající platformy strojového učení, které posouvají umělou inteligenci na novou úroveň sofistikovanosti – což je také potenciální rizikový faktor. Kromě toho bude Frontier Model Forum také podporovat vývoj aplikací, které řeší hlavní společenské výzvy, jako jsou: zmírňování změny klimatu a adaptace na ni, včasná detekce a prevence rakoviny a ochrana před kybernetickými hrozbami.

Prostor pro potenciální zkázu

Oznámení o fóru Frontier Model Forum americkými společnostmi přichází několik dní poté, co američtí senátoři 25. července na slyšení před podvýborem justičního výboru Senátu USA varovali před rizikem využití umělé inteligence k biologickým útokům. Sedm velkých technologických společností, včetně OpenAI, Alphabet a Meta, se nedávno dobrovolně zavázalo Bílému domu, že vyvinou systém označování veškerého obsahu, od textu, obrázků, zvuku až po video , vytvořeného umělou inteligencí, aby uživatelům poskytly informace v podobě transparentnosti a zajistily tak bezpečnost této technologie.

I když umělá inteligence zatím není schopna vytvářet biologické zbraně, jedná se o „střednědobé“ riziko, které by mohlo v příštích dvou až třech letech představovat vážnou hrozbu pro národní bezpečnost USA, poznamenal Dario Amodei, generální ředitel společnosti AI Anthropic. Je to proto, že aktéři, kteří provádějí rozsáhlé biologické útoky, se již neomezují pouze na ty se specializovanými znalostmi v dané oblasti.

Svět čelí explozi obsahu vytvořeného generativní technologií umělé inteligence. Od USA přes Evropu až po Asii se regulační opatření postupně zpřísňují. Podle CNN bude americký Senát od září pořádat sérii devíti dalších workshopů pro členy, aby se dozvěděli o tom, jak může umělá inteligence ovlivnit pracovní místa, národní bezpečnost a duševní vlastnictví. Pokud bude dosaženo dohody, bude mít Evropská unie před USA první zákon na světě o řízení umělé inteligence, který by měl vstoupit v platnost v roce 2026.

Výhody, které umělá inteligence přináší společnosti, jsou nepopiratelné, ale stále více se objevují varování před potenciálními riziky této nové technologie. V červnu generální tajemník OSN António Guterres podpořil návrh několika vedoucích pracovníků v oblasti umělé inteligence na zřízení mezinárodního dozorčího orgánu pro umělou inteligenci, podobného Mezinárodní agentuře pro atomovou energii (MAAE).

Prezident společnosti Microsoft Brad Smith na fóru Frontier Model Forum uvedl, že tato iniciativa je důležitým krokem ke sjednocení technologických společností s cílem prosazovat zodpovědné využívání umělé inteligence ve prospěch celého lidstva. Podobně viceprezidentka OpenAI pro globální záležitosti Anna Makanju uvedla, že pokročilá technologie umělé inteligence má potenciál přinést společnosti zásadní výhody, a to vyžaduje dohled a řízení.

Zdroj