Zneužití umělé inteligence by mohlo ohrozit bezpečnost dat.

Revoluce v umělé inteligenci (AI) explodovala od konce roku 2022, zejména poté, co OpenAI spustila ChatGPT. Krátce poté velké technologické korporace spustily i další nástroje AI – například Copilot a Bing od Microsoftu a Gemini od Googlu – čímž se užitečnost AI dále zvýšila. Tyto nástroje mohou pomoci se vším od psaní kódu a analýzy dat až po syntézu informací v krátkém čase. To vedlo mnoho uživatelů k většímu zájmu o AI.

Používání a zároveň obavy.

Pan Nguyen Hoai Sang, administrativní pracovník v okrese Binh Thanh v Ho Či Minově Městě, uvedl, že od doby, kdy začal používat software s umělou inteligencí, mu příprava obchodních zpráv, shromažďování informací a pořizování poznámek z interních schůzek nebo schůzek s klienty prostřednictvím platforem Google Meet a Zoom ušetřila ve srovnání s manuálními metodami přibližně 40–50 % času. Po stažení nástrojů s umělou inteligencí si však všiml, že se mu počítač na 1–2 minuty zasekával a jeho výkon se ve srovnání s dřívější dobou také snížil.

„Kromě ChatGPT, Copilota a Gemini jsem prohledal obchod s rozšířeními pro Google Chrome a nainstaloval několik nástrojů s umělou inteligencí, jako jsou Sider, SearchGPT a Tactiq. Od té doby se mi počítač zpomaluje. Například psaní v souborech Wordu už není plynulé a otevírání jednoduchých aplikací trvá o 5–7 sekund déle než obvykle, i když se jedná o dobrý notebook na trhu. V důsledku toho je moje práce někdy přerušována, což způsobuje rozptýlení a frustraci. Ale co mě znepokojuje, je, zda je to způsobeno virovou infekcí a umělou inteligencí, která se do zařízení infiltruje za účelem krádeže dat?“ – pan Sang si s obavami poznamenal.

Mezitím pan Xuan Thanh, IT pracovník v Ho Či Minově Městě, jehož hlavní náplní práce je oprava chyb interních systémů v podnicích, věří, že umělá inteligence mu výrazně pomáhá v práci, protože k rychlému vyřešení chyb vyžaduje pouze popisy a psaní kódu. Má však také obavy z bezpečnostních důsledků umělé inteligence.

„Existují úkoly, které vyžadují okamžité použití umělé inteligence, takže jsem nucen ji aplikovat. Stále se ale obávám, že majitelé softwaru umělé inteligence by mohli použít data shromážděná během interakcí a otázek kladených umělé inteligenci k infiltraci systémů uživatelů. Nebo když umělá inteligence shromažďuje data poskytnutá uživateli, mohli by se na ně zlomyslní aktéři zeptat a zda by umělá inteligence poskytla informace? Ačkoli k žádným incidentům v této souvislosti zatím nedošlo, stále si nejsem jistý bezpečností umělé inteligence,“ řekl skepticky pan Thanh.

Software umělé inteligence může být příčinou poruch počítače.

Při stahování AI buďte opatrní.

Podle pana Nguyen Huu Nguyen, zástupce ředitele Vietnamského národního centra pro reakci na kybernetickou bezpečnost (VNCERT), by zpoždění počítače a snížený výkon po stažení softwaru s umělou inteligencí mohly být způsobeny složitými funkcemi softwaru s umělou inteligencí, které spotřebovávají velké množství systémových prostředků, a ne nutně virem.

Podle pana Nguyena by však uživatelé měli být opatrní při stahování umělé inteligence z nespolehlivých zdrojů, protože může obsahovat malware, který by mohl nabourat systém. Uživatelé by měli také věnovat pozornost ochraně dat a pečlivě si přečíst zásady ochrany osobních údajů a podmínky používání nástrojů umělé inteligence, aby pochopili, jak shromažďují a používají data. Kromě toho by měl být při používání umělé inteligence kontrolován přístup k zařízení. Zejména by se s umělou inteligencí neměly sdílet důležité dokumenty, aby se minimalizovala rizika.

Pan Ta Cong Son, vedoucí oddělení vývoje umělé inteligence – projektu proti podvodům, se domnívá, že zpomalení nebo dokonce zamrznutí počítačů po načtení umělé inteligence by mohlo být způsobeno nedostatkem paměti RAM pro zvládnutí jejích funkcí. Je to však také varovný signál, že uživatelé mohou čelit určitým rizikům.

„Pro zajištění bezpečnosti by uživatelé měli omezit přístup umělé inteligence. Když aplikace požaduje povolení, uživatelé musí pečlivě zvážit, zda je udělení tohoto povolení nezbytné a bezpečné. Bezpečným způsobem používání nástrojů umělé inteligence je použití antivirových aplikací ke skenování a kontrole. Uživatelé mohou navíc použít webové stránky jako Virustotal.com nebo Eset.com, aby zkontrolovali, zda umělá inteligence obsahuje malware nebo je bezpečná,“ doporučil pan Son.

Na nedávném semináři na vysoké úrovni o kybernetické bezpečnosti v roce 2024 uvedl pan Tran Son Binh, obchodní ředitel společnosti AMD Vietnam, že uživatelé používající ChatGPT k psaní kódu, programování nebo sumarizaci dat by mohli vést k problémům se zabezpečením systému. Je to proto, že kód poskytovaný umělou inteligencí může obsahovat škodlivý kód a umělá inteligence ho může využít ke zneužití zranitelností a změně datových struktur, čímž ohrozí bezpečnost a výkon systému.

Pan Binh zdůraznil: „Jednotky musí kontrolovat svůj personál při používání umělé inteligence k psaní zpráv a syntéze informací na základě dat poskytnutých uživateli, zejména obsahu týkajícího se obchodních a státních tajemství. V současné době jsme stále v bezpečné zóně, ale kdo ví, zda tato data zůstanou v bezpečí i v budoucnu?“

Umělá inteligence bude shromažďovat data.

Podle Gemini pomáhá pouhý chat s aplikací uživatelům vylepšovat služby Googlu, včetně modelů strojového učení, na které se Gemini spoléhá. V tomto procesu vylepšování musí vyškolení recenzenti zpracovávat konverzace uživatelů. „Proto při používání Gemini nezadávejte žádné informace, které nechcete, aby recenzenti viděli, nebo které nechcete, aby Google používal,“ radí Gemini.

Pokud jde o Copilot, Microsoft uvádí, že shromažďuje data od uživatelů prostřednictvím interakcí. Produkty umělé inteligence, které poskytuje, jsou založeny na vstupech uživatelů a některé jsou generovány platformou shromažďující data o jiných interaktivních aktivitách.

To znamená, že když uživatelé sdílejí jakékoli informace s umělou inteligencí, aplikace je shromažďuje, aby byl nástroj chytřejší. To znamená, že uživatelská data, která nechtějí být zveřejněna ostatním, mohou být pro ně viditelná.

Zdroj: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm