Bezpečnost v době high-tech

Sídlo Evropské policejní agentury (Europol) se nachází v Haagu v Nizozemsku.

Podle Europolu umělá inteligence „neúmyslně“ pomohla zločincům zvýšit jejich efektivitu v mnoha oblastech, jako je obchodování s drogami, obchodování s lidmi, kyberkriminalita a krádeže identity. Technologický expert Bruce Schneier, poradce Europolu, uznal: „Umělá inteligence činí zločince nebezpečnějšími než kdy dříve. Tradiční metody ověřování identity již nejsou dostatečně účinné v boji proti deepfakes.“

Catherine De Bolle, generální ředitelka Europolu, varovala: „Organizovaný zločin se stává stále sofistikovanějším a je agresivněji hnán online, urychlován umělou inteligencí a nově vznikajícími technologiemi. Je to závod mezi těmi, kdo používají technologie k páchání trestné činnosti, a těmi, kdo používají technologie k boji proti zločinu. Musíme zajistit, aby orgány činné v trestním řízení byly vždy v popředí.“

V polovině února letošního roku se v Paříži konal summit AI Action Summit. Akce se konala na pozadí významných změn v odvětví umělé inteligence, zejména vzniku nových modelů umělé inteligence, u kterých se očekává značný dopad na globální trh. Francouzský prezident Emmanuel Macron na summitu vyjádřil naději na spolupráci při podpoře modelů umělé inteligence s otevřeným zdrojovým kódem, usnadnění rozvoje podnikání v této oblasti a účinný boj proti kyberkriminalitě.

Konference se zúčastnilo mnoho vysoce postavených lídrů a podnikatelů v technologickém průmyslu, včetně francouzského prezidenta Emmanuela Macrona, indického premiéra Narendry Modiho, amerického viceprezidenta J. D. Vance… a také lídrů ze Silicon Valley, jako je generální ředitel OpenAI, předseda představenstva Microsoftu a generální ředitel společnosti Google.

Expert na geotechnologie Nick Reiners se domnívá, že konference by mohla být příležitostí k prozkoumání globální konkurence v této oblasti a také ke koordinaci v boji proti high-tech zločinu zneužívajícímu umělou inteligenci.

Umělá inteligence se stala trendem ve vývoji a ať se nám to líbí nebo ne, žádná země není vynechána ze závodu. Obavy však přetrvávají. Na každoročním Světovém ekonomickém fóru v Davosu ve Švýcarsku, které se konalo koncem ledna 2025, vzbudily diskuse zaměřené na rozvoj umělé inteligence značnou pozornost.

Generální tajemník OSN António Guterres vydal důrazné varování před dvěma hlavními hrozbami pro lidstvo: klimatickou krizí a nekontrolovaným rozvojem umělé inteligence. Vyzval země, aby urychleně podnikly kroky ke zmírnění klimatických změn a prevenci jejich nejhorších dopadů. Pokud jde o umělou inteligenci, Guterres zdůraznil, že ačkoli umělá inteligence nabízí mnoho výhod, představuje také značná rizika, pokud není řádně řízena. Varoval, že nekontrolovaná umělá inteligence by mohla být zneužita jako nástroj k podvádění, narušit ekonomiku a podkopat důvěru v instituce. Mohla by také prohloubit nerovnost, protože mnoho lidí by z této technologie nemělo prospěch.

Generální tajemník OSN poté vyzval ke globální spolupráci při řešení problémů od klimatické krize až po řízení vývoje umělé inteligence.

Odborníci mezitím předpovídají, že s umělou inteligencí by lidstvo mohlo zažít větší změnu, než jakou kdy jakákoli jiná technologie v historii přinesla. Dr. Siqi Chen, generální ředitel startupu Runway se sídlem v San Franciscu, tvrdí, že předchozí technologický pokrok, od elektřiny po internet, již spustil dramatické společenské změny. S umělou inteligencí však bude dopad ještě silnější. „S umělou inteligencí zažije lidská společnost změnu ve větším měřítku než jakákoli jiná technologická změna, jakou jsme kdy v historii zažili,“ řekl Dr. Chen, ale zároveň varoval před „vzrušující změnou, ale také děsivou, jako dvousečnou zbraní“.

Podle Dr. Jareda Spatara, klíčového lídra společnosti Microsoft, lze umělou inteligenci považovat za „duši práce“, pokud jsou maximalizovány její pozitivní aspekty a zmírněny její negativní aspekty. Zejména nesmí být zneužívána ani kontrolována kyberzločinci.

Sharon Zhou, spoluzakladatelka společnosti zabývající se umělou inteligencí, uvedla, že tato technologie „by se k nám mohla dostat rychleji, než ji zvládneme“. Proto musí být její zvládnutí nezbytnou strategií, jak se vyhnout nebezpečí. Zhou uvedla, že tato technologie vyvolává otázku ohledně budoucnosti lidstva. „Pokud se chystá něco, co bude silnější a chytřejší než my, co to pro nás znamená? A zneužíváme to? Nebo ono zneužívá nás?“

„Bezpečnost je proto „povinný proces,“ uvedla v rozhovoru pro MIT Technology Review hlavní vědecká pracovnice OpenAI Ilja Sutskeverová. Naznačila, že samotný mezinárodní řád by mohl být ohrožen, pokud by umělou inteligenci zneužívaly zlomyslné síly.

Generální tajemník OSN António Guterres kdysi řekl: „Nikdo není v bezpečí, dokud nejsou v bezpečí všichni.“ V dnešní době explozivního růstu umělé inteligence je toto tvrzení ještě relevantnější, protože boj proti kriminalitě v oblasti high-tech je odpovědností každého.

Komentář (0)