Obavy z toho, že umělá inteligence bude „zbraňována“ proti lidem

Na slavnostním promoci na Americké letecké akademii začátkem srpna varoval americký prezident Biden před silou umělé inteligence (AI) a předpověděl, že tato technologie by mohla v nepříliš vzdálené budoucnosti „překonat lidské myšlení“. „ Nebude to snadné. Je to neuvěřitelná příležitost, ale máme před sebou hodně práce, “ řekl pan Biden.

V nedávném rozhovoru prezident společnosti Microsoft Brad Smith uvedl, že bez lidského zásahu by se umělá inteligence mohla stát zbraní ohrožující život: „ Každá technologie, která vznikne, se může stát nástrojem, který lidem pomůže, ale také zbraní. Musíme zajistit, aby umělá inteligence byla pod lidskou kontrolou, abychom mohli věci v případě potřeby zpomalit nebo vypnout .“

Společnost Microsoft je v současnosti jednou z předních společností ve vývoji umělé inteligence a již v rané fázi investovala do OpenAI, „otce“ ChatGPT. Společnost vynaložila miliardy dolarů na výzkum aplikací umělé inteligence a integrovala tuto pokročilou technologii do svých produktů, včetně Bingu – vyhledávače podobného Vyhledávání Google. Ačkoli aktivně propaguje výhody umělé inteligence, pan Smith potvrdil, že si je Microsoft vědom potenciálních rizik používání umělé inteligence a zároveň se zasazuje o to, aby ostatní společnosti „dělaly správnou věc“.

Zda je umělá inteligence dobrá nebo špatná, závisí na tom, jak lidé tuto technologii ovládají.

Umělá inteligence se nejen používá v každodenních službách, ale stala se mocným nástrojem i v oblasti kybernetické bezpečnosti. Vznik ChatGPT v listopadu 2022 se stal předmětem debat o umělé inteligenci, což ukazuje hmatatelné dopady technologie neuronových sítí a odhaluje, že umělá inteligence má potenciál zničit průmyslová odvětví po celém světě.

Jednou z diskusí kolem ChatGPT je, jak kyberzločinci zneužívají tuto technologii ke zvýšení počtu phishingových a malwarových útoků. Výzkum dokonce ukázal, že hackeři mohou tento nástroj použít k vytvoření škodlivého kódu z jednotlivých požadavků, aby obešli bezpečnostní pravidla.

Na nedávném každoročním Týdnu kybernetické bezpečnosti v Indonésii představila bezpečnostní firma Kaspersky koncept kybernetické imunity, což je způsob, jak vyvíjet IT systémy s vrozenými ochrannými schopnostmi.

„ Kybernetická imunita je technologie, která představuje bezpečnostní systém navržený tak, aby byl bezpečný a schopný vytvořit prakticky neprolomitelné řešení, které minimalizuje počet potenciálních zranitelností,“ řekl Eugene Kaspersky, generální ředitel společnosti Kaspersky. „Tradiční kybernetická bezpečnost už k naší ochraně nestačí. Potřebujeme revolucionalizovat naši obranu, abychom zajistili vytvoření bezpečnějšího digitálního světa .“

Region Asie a Tichomoří je v současné době v popředí revoluce v oblasti umělé inteligence. Nedávná studie společnosti IDC odhalila, že výdaje na umělou inteligenci v tomto regionu se do tří let zdvojnásobí, z 9,8 miliardy dolarů v roce 2023 na 18,6 miliardy dolarů v roce 2026. Aby se zlepšila efektivita a snížila závislost na technologiích, většina místních podniků se snaží do tří let začlenit umělou inteligenci do svých portfolií podnikových technologií. V současné době činí velikost trhu s umělou inteligencí v regionu Asie a Tichomoří 22,1 miliardy dolarů a očekává se, že do roku 2028 se téměř čtyřnásobně zvýší na 87,6 miliardy dolarů.

Zpráva IDC zdůrazňuje, že Čína, Austrálie a Indie jsou v regionu třemi zeměmi s nejvyššími výdaji na umělou inteligenci a mnoho dalších bude následovat. „ Proto je pro nás důležité vytyčit si bezpečnou cestu a zajistit, abychom mohli tuto technologii využívat bez kompromisů v oblasti bezpečnosti, “ dodal Adrian Hia, výkonný ředitel společnosti Kaspersky pro oblast Asie a Tichomoří.

Khanh Linh

Zdroj