Jak dobře znáte umělou inteligenci? Zde je 7 pojmů, které byste měli znát

Rychlý rozvoj umělé inteligence (AI) vyvolal obavy, že se vyvíjí rychleji, než si lidé dokážou uvědomit její dopad.

Jak dobře někomu rozumíte? Zde je 7 pojmů, které potřebujete znát, obrázek 1. — Foto: ST

Využívání obecné umělé inteligence se výrazně zvýšilo po vzniku nástrojů, jako je ChatGPT. I když tyto nástroje mají mnoho výhod, mohou být také zneužity škodlivými způsoby.

Aby se toto riziko zvládlo, USA a několik dalších zemí uzavřely dohody se sedmi společnostmi, včetně Amazonu, Anthropic, Googlu, Inflectionu, Mety, Microsoftu a OpenAI, o dodržování bezpečných postupů při vývoji technologií umělé inteligence.

Oznámení Bílého domu přichází s vlastní terminologií, která nemusí být běžnému člověku známá, s pojmy jako „red teaming“ a „watermarking“. Zde je sedm pojmů souvisejících s umělou inteligencí, na které si dát pozor.

Strojové učení

Tato větev umělé inteligence si klade za cíl naučit stroje přesně provádět konkrétní úkoly identifikací vzorců. Stroj pak může na základě těchto dat vytvářet předpovědi.

Hluboké učení

Kreativní úkoly umělé inteligence se často spoléhají na hluboké učení, metodu, která zahrnuje trénování počítačů pomocí neuronových sítí, sady algoritmů určených k napodobování neuronů v lidském mozku, k vytváření složitých propojení mezi vzory za účelem generování textu, obrázků nebo jiného obsahu.

Protože modely hlubokého učení mají více vrstev neuronů, dokážou se učit složitější vzorce než tradiční strojové učení.

Velký jazykový model

Model rozsáhlého jazyka, neboli LLM, je trénován na obrovském množství dat a jeho cílem je modelovat jazyk nebo předpovídat další slovo v sekvenci. Modely rozsáhlých jazyků, jako jsou ChatGPT a Google Bard, lze použít pro úkoly, jako je sumarizace, překlad a konverzace.

Algoritmus

Sada instrukcí nebo pravidel, které umožňují strojům vytvářet předpovědi, řešit problémy nebo plnit úkoly. Algoritmy mohou poskytovat nákupní doporučení a pomáhat s odhalováním podvodů a funkcemi chatu se zákaznickou podporou.

Zkreslení

Protože je umělá inteligence trénována s využitím velkých datových sad, může do nich začlenit škodlivé informace, jako například nenávistné projevy. V datových sadách používaných k trénování umělé inteligence se může objevit i rasismus a sexismus, což vede k zavádějícímu obsahu.

Společnosti zabývající se umělou inteligencí se dohodly, že se budou hlouběji zabývat tím, jak se v systémech umělé inteligence vyhnout škodlivým předsudkům a diskriminaci.

Červené týmové

Jedním ze závazků, které společnosti učinily vůči Bílému domu, je provádět interní i externí „červené týmy“ v oblasti modelů a systémů umělé inteligence.

„Červené týmování“ zahrnuje testování modelu za účelem odhalení potenciálních zranitelností. Termín pochází z vojenské praxe, kdy tým simuluje akce útočníka, aby vymyslel strategie.

Tato metoda se široce používá k testování bezpečnostních zranitelností v systémech, jako jsou cloudové platformy od společností jako Microsoft a Google.

Vodoznak

Vodoznak je způsob, jak zjistit, zda zvuk nebo obrázek vytvořila umělá inteligence. Mezi ověřovaná fakta může patřit informace o tom, kdo jej vytvořil, a také o tom, jak a kdy byl vytvořen nebo upraven.

Například Microsoft se zavázal, že bude obrázky vytvořené jeho nástroji umělé inteligence označovat vodoznakem. Firmy se také Bílému domu zavázaly, že budou obrázky označovat vodoznakem nebo zaznamenávat jejich původ, aby je bylo možné identifikovat jako obrázky generované umělou inteligencí.

Vodoznaky se také běžně používají ke sledování porušení práv duševního vlastnictví. Vodoznaky pro obrázky generované umělou inteligencí se mohou jevit jako nepostřehnutelný šum, například mírná změna každého sedmého pixelu.

Nicméně, vodoznakování textu generovaného umělou inteligencí může být složitější a může zahrnovat úpravu šablony slova tak, aby jej bylo možné identifikovat jako obsah generovaný umělou inteligencí.

Hoang Ton (podle Poyntera)

Zdroj