Nová umělá inteligence by mohla být použita k vytvoření biologických zbraní.

Telefon ukazuje rozhraní pro učení o GPT-o1 od OpenAI - Foto: FINANCIAL TIMES

Podle deníku Financial Times z 13. září společnost OpenAI přiznala, že její model GPT-o1, spuštěný 12. září, „významně“ zvyšuje riziko zneužití umělé inteligence (AI) k vytváření biologických zbraní.

Dokumentace OpenAI vysvětlující fungování GPT-o1 potvrzuje, že nový model má „střední úroveň rizika“ týkající se chemických, biologických, radiologických a jaderných zbraní. Jedná se o nejvyšší úroveň rizika, jakou kdy OpenAI svým modelům umělé inteligence přiřadila.

Podle OpenAI to znamená, že GPT-o1 by mohl „významně zlepšit“ schopnost expertů vyrábět biologické zbraně pro zneužití.

Mira Murati, technologická ředitelka (CTO) společnosti OpenAI, uvedla, že ačkoliv je GPT-o1 stále ve fázi testování, pokročilé funkce tohoto modelu vyžadují, aby společnost byla extrémně „opatrná“ ohledně svého plánu pro jeho uvedení na trh pro veřejnost.

Paní Murati také prohlásila, že model byl důkladně otestován multidisciplinárním týmem expertů. Tito jedinci byli společností OpenAI najati, aby prozkoumali omezení modelu vyvinutého společností.

Murati uvedl, že testovací proces ukázal, že model GPT-o1 splňuje obecná bezpečnostní kritéria mnohem lépe než jeho předchůdci.

Zástupci OpenAI dále ujistili, že zkušební verze GPT-o1 je „bezpečná pro nasazení“ a nemůže vytvářet složitější rizika než již vyvinuté technologie.

Navzdory těmto ujištěním zůstává velká část vědecké komunity a nadšenců do umělé inteligence ohledně budoucnosti této technologie převážně pesimistická.

Obavy z příliš rychlého vývoje umělé inteligence, která překračuje rychlost, s jakou se vyvíjejí a schvalují předpisy, které ji upravují, rostou.

Profesor Yoshua Bengio, specialista na informatiku na Montrealské univerzitě a jeden z předních světových vědců v oblasti umělé inteligence, uvedl, že pokud OpenAI v současné době představuje „střední riziko“ chemických a biologických zbraní, pak „to jen posiluje důležitost a naléhavost“ regulací, jako je například vášnivě diskutovaný návrh zákona v Kalifornii, které by tuto oblast upravovaly.

Tento vědec zdůraznil, že tyto instituce jsou obzvláště nezbytné v kontextu stále se zvyšujícího blížení umělé inteligence k úrovni univerzální umělé inteligence (AGI), což je schopnost uvažovat na úrovni lidí.

„Čím blíže se průkopnické modely umělé inteligence dostávají k obecné umělé inteligenci (AGI), tím větší jsou rizika, pokud nebudou přijata vhodná opatření. Zlepšení schopností umělé inteligence v oblasti uvažování a její potenciální využití k podvodům je extrémně nebezpečné,“ zhodnotil Bengio.

Zdroj: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm