Hledání bezpečnostních standardů pro umělou inteligenci

SGGP 31. července 2023 09:35

Poté, co Evropa začala s přípravou a brzy i schválila první zákon na světě o umělé inteligenci (AI), čtyři přední američtí giganti v oblasti těžby dat z internetu právě založili skupinu s názvem Frontier Model Forum.

Hlavním cílem Frontier Model Forum je zodpovědná propagace umělé inteligence. Foto: THINKWITHNICHE

Strany se k sobě sblíží

Skupina, která zahrnuje společnosti Anthropic, Google, Microsoft a OpenAI, vlastníka ChatGPT, uvedla, že hlavními cíli Frontier Model Forum je pomoci snížit rizika představovaná platformami umělé inteligence a vyvinout oborové standardy. Frontier Model Forum vytvoří nové fórum s následujícími hlavními cíli: Podporovat výzkum v oblasti bezpečnosti umělé inteligence na podporu vývoje, zmírňovat rizika a standardizovat hodnocení a úrovně bezpečnosti; identifikovat osvědčené postupy pro vývoj a nasazení modelů; pomoci veřejnosti pochopit povahu, možnosti, omezení a dopady technologie; a spolupracovat s tvůrci politik, akademiky, občanskou společností a společnostmi na sdílení znalostí o rizicích a bezpečnosti.

Technologičtí giganti se tradičně bránili zvýšené regulaci, ale tentokrát technologický průmysl obecně změnil svůj postoj k rostoucím obavám z rizik, která představuje umělá inteligence. Společnosti zapojené do iniciativy Frontier Model Forum se zavázaly sdílet osvědčené postupy mezi nimi a zveřejnit informace vládám a občanské společnosti.

Konkrétně se Frontier Model Forum zaměří na rozsáhlé, ale stále ještě začínající platformy strojového učení, které posouvají umělou inteligenci na novou úroveň sofistikovanosti – což je také potenciální rizikový faktor. Kromě toho bude Frontier Model Forum také podporovat vývoj aplikací, které řeší hlavní společenské výzvy, jako jsou: zmírňování a adaptace na změnu klimatu, včasná detekce a prevence rakoviny a boj proti kybernetickým hrozbám.

Prostor pro potenciální zkázu

Oznámení o založení Frontier Model Forum americkými společnostmi přichází několik dní poté, co američtí senátoři 25. července na slyšení před podvýborem justičního výboru Senátu USA varovali před rizikem využití umělé inteligence k biologickým útokům. Sedm velkých technologických společností, včetně OpenAI, Alphabet a Meta, se nedávno dobrovolně zavázalo Bílému domu, že vyvinou systém pro identifikaci veškerého obsahu od textu, obrázků, zvuku až po video vytvořené umělou inteligencí, aby byla zajištěna transparentnost pro uživatele a aby byla tato technologie bezpečnější.

Dario Amodei, generální ředitel společnosti AI Anthropic, poznamenal, že ačkoli umělá inteligence zatím není schopna vytvářet biologické zbraně, představuje „střednědobé“ riziko a v příštích dvou nebo třech letech představuje vážnou hrozbu pro národní bezpečnost USA. Důvodem je, že subjekty provádějící rozsáhlé útoky biologickými zbraněmi již nejsou omezeny na ty, kteří mají v této oblasti specializované znalosti.

Svět čelí explozi obsahu vytvořeného generativní technologií umělé inteligence. Od USA, Evropy až po Asii se kontroly postupně zpřísňují. Podle CNN uspořádá americký Senát od září sérii devíti dalších workshopů pro členy, aby se dozvěděli o tom, jak může umělá inteligence ovlivnit pracovní místa, národní bezpečnost a duševní vlastnictví. Pokud bude dosaženo dohody, bude mít Evropská unie před USA první zákon o řízení umělé inteligence na světě, který by měl vstoupit v platnost v roce 2026.

Výhody, které umělá inteligence přináší společnosti, jsou nepopiratelné, ale stále více se objevují varování před potenciálními riziky této nové technologie. V červnu generální tajemník OSN António Guterres podpořil návrh několika vedoucích pracovníků v oblasti umělé inteligence na zřízení mezinárodního dozorčího orgánu pro umělou inteligenci, podobného Mezinárodní agentuře pro atomovou energii (MAAE).

Prezident společnosti Microsoft Brad Smith na fóru Frontier Model Forum uvedl, že tato iniciativa je důležitým krokem ke sjednocení technologických společností s cílem prosazovat zodpovědné využívání umělé inteligence ve prospěch celého lidstva. Podobně viceprezidentka OpenAI pro globální záležitosti Anna Makanju uvedla, že pokročilá technologie umělé inteligence má potenciál přinést společnosti zásadní výhody, a to vyžaduje dohled a řízení.

Zdroj