Bezpečnost v době high-tech

Sídlo Evropské policejní agentury (Europol) v Haagu v Nizozemsku.

Podle Europolu umělá inteligence „neúmyslně“ pomohla zločincům zvýšit jejich efektivitu v mnoha oblastech, jako je obchodování s drogami, obchodování s lidmi, kyberkriminalita a krádeže identity. Technologický expert Bruce Schneier, poradce Europolu, připustil: „Umělá inteligence činí zločince nebezpečnějšími než kdy dříve. Tradiční metody ověřování identity již nejsou dostatečně účinné v boji proti deepfakes.“

„Organizovaný zločin se stává sofistikovanějším a je poháněn online, urychlován umělou inteligencí a nově vznikajícími technologiemi. Je to závod mezi těmi, kdo používají technologie k páchání trestné činnosti, a těmi, kdo používají technologie k boji proti zločinu. Musíme zajistit, aby orgány činné v trestním řízení zůstaly napřed,“ varovala Catherine De Bolle, výkonná ředitelka Europolu.

V polovině února letošního roku se v Paříži (Francie) konal summit o akci v oblasti umělé inteligence (AI Action Summit). Akce se konala v kontextu mnoha výkyvů v odvětví umělé inteligence, zejména s nástupem nových modelů umělé inteligence, o nichž se říká, že mají významný dopad na globální trh. Francouzský prezident Emmanuel Macron na konferenci vyjádřil naději na spolupráci při podpoře modelů umělé inteligence s otevřeným zdrojovým kódem, vytváření podmínek pro rozvoj podniků v této oblasti a také na účinnou prevenci technologické kriminality.

Konference se zúčastnilo mnoho vysoce postavených představitelů a podnikatelů z technologického průmyslu, včetně francouzského prezidenta Emmanuela Macrona, indického premiéra Narendry Modiho, amerického viceprezidenta J. D. Vance... a lídrů ze Silicon Valley, jako je generální ředitel OpenAI, prezident Microsoftu a generální ředitel Googlu.

Expert na geotechnologie Nick Reiners uvedl, že konference by mohla být příležitostí k prozkoumání globální konkurence v této oblasti a také ke koordinaci v boji proti high-tech kriminalitě s využitím umělé inteligence.

Umělá inteligence se stala trendem rozvoje, ať se nám to líbí nebo ne, zatím žádná země nezůstala stranou. I když stále existují obavy. Na každoročním Světovém ekonomickém fóru 2025, které se konalo v Davosu (Švýcarsko) na konci ledna 2025, také přitáhla pozornost diskusemi zaměřenými na rozvoj umělé inteligence.

Generální tajemník OSN António Guterres vydal důrazné varování před dvěma hlavními hrozbami pro lidstvo: klimatickou krizí a nekontrolovaným rozvojem umělé inteligence. Pan Guterres vyzval země, aby urychleně podnikly kroky k omezení klimatických změn a prevenci nejhorších dopadů. Pokud jde o umělou inteligenci, pan Guterres zdůraznil, že umělá inteligence přináší do života mnoho výhod, ale pokud není řádně řízena, představuje také značná rizika. Varování znělo: Umělá inteligence, pokud není dobře kontrolována, může být zneužita jako nástroj klamání, narušuje ekonomiku a oslabuje důvěru v instituce. Může také prohloubit nerovnost, protože mnoho lidí z této technologie nemá prospěch.

Generální tajemník OSN od té doby vyzval ke globální spolupráci při řešení problémů od klimatické krize až po zvládání vzestupu umělé inteligence.

Odborníci mezitím předpovídají, že s umělou inteligencí by lidstvo mohlo zažít větší změnu než kterákoli jiná technologie v historii. Dr. Siqi Chen, generální ředitel startupu Runway se sídlem v San Franciscu, uvedl, že předchozí technologický pokrok, od elektřiny po internet, spustil dramatické změny ve společnosti. S umělou inteligencí to však bude ještě dramatičtější. „S umělou inteligencí zažije lidská společnost změnu v rozsahu větším než jakákoli jiná technologická změna, jakou jsme v historii zažili,“ řekl Dr. Chen, ale zároveň varoval, že „je to vzrušující změna, ale také děsivá jako ‚dvousečná zbraň‘.“

Podle Dr. Jareda Spatara - klíčového lídra společnosti Microsoft Corporation - lze umělou inteligenci považovat za „duši práce“, pokud dokáže podporovat pozitivní aspekty a omezovat ty negativní. Zejména pokud nedovolí, aby ji zneužili a dominovali zločinci ze strany high-tech.

Pro Sharon Zhou, spoluzakladatelku společnosti zabývající se umělou inteligencí, se technologie „možná blíží rychleji, než ji dokážeme zvládnout“. Předběhnout ji je tedy přirozenou strategií, pokud nechceme být v nebezpečí. Zhou uvedla, že technologie vyvolává otázku o budoucnosti lidstva. „Pokud bude něco silnější než my a chytřejší než my, co to pro nás znamená? A zneužíváme to? Nebo ono zneužívá nás?“

„Proto je bezpečnost „povinným procesem,“ uvedl hlavní vědec OpenAI Ilja Sutskever v rozhovoru pro MIT Technology Review a naznačil, že samotný mezinárodní řád by mohl být ohrožen, pokud by umělou inteligenci zneužili zlí aktéři.

Generální tajemník OSN António Guterres kdysi řekl: „Nikdo není v bezpečí, dokud nejsou v bezpečí všichni.“ V současné době exploze umělé inteligence je toto rčení ještě aktuálnější, protože boj proti kriminalitě v oblasti high-tech není soukromou záležitostí.

„

V digitálním věku, s explozí umělé inteligence, se s rozvojem technologií rychle mění i svět zločinu, což vytváří nebývalé výzvy pro globální bezpečnost. Podle zprávy společnosti Palo Alto Networks, která se zabývá kybernetickou bezpečností, se počet globálních útoků ransomwaru v roce 2024 zvýšil o 47 % ve srovnání s rokem 2023 a způsobil škody ve výši více než 30 miliard USD. Útočníci se již nezaměřují pouze na data, ale také ovládají důležité systémy za účelem vydírání. To už není jen finanční problém, ale hrozba pro národní bezpečnost. Deepfake hovory navíc využívají nejpokročilejší pokroky v oblasti umělé inteligence k falešnému hlasu nebo obrazu obětí, což způsobuje obrovské škody. Zpráva Europolu ukazuje, že počet podvodů využívajících deepfake se za poslední 2 roky zvýšil o 300 %.

Zdroj: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html