Využití umělé inteligence k filtrování podvodných webových stránek

Skupina čtyř studentů ze Swinburne University ve Vietnamu úspěšně dokončila výzkum a testování nástroje umělé inteligence (AI) schopného identifikovat a filtrovat škodlivé a falešné webové stránky během několika sekund.

Od nápadu k činu

Vedoucí studentské skupiny Le Nguyen Viet Cuong uvedl, že členové skupiny si v poslední době všimli vzniku mnoha stále sofistikovanějších phishingových webových stránek, zatímco současná řešení založená na lidském faktoru nestačí k jejich zabránění.

Skupina čtyř studentů proto vytvořila webové stránky https://ai.chongluadao.vn/, které mohou přímo z webových stránek analyzovat, že si je uživatelé prohlížejí, a vyhodnotit tak jejich bezpečnost. „S využitím umělé inteligence a analýzy může skupina zjistit, jak podvádět, poskytovat uživatelům informace a zvyšovat jejich povědomí,“ uvedl Cuong.

Podle Truong Duc Sanga, člena týmu, tým použil populární modely umělé inteligence dostupné na trhu, jako jsou ChatGPT, Gemini, Claude, Grok, Deepseek... Po analýze a porovnání výsledků modelů, provozních nákladů, vyhodnocení přesnosti... tým vybral nejlepší a nejvhodnější technickou aplikaci pro realizaci projektu.

Použití umělé inteligence k filtrování podvodných webových stránek - Foto 1.

Skupina čtyř studentů na Swinburne University ve Vietnamu zkoumala aplikaci umělé inteligence, která dokáže identifikovat a filtrovat škodlivé webové stránky během několika sekund. Foto: DUY PHU

Další člen, student Nguyen Van Huy Quang, poukázal na to, že současné aplikace pro filtrování škodlivých a podvodných webových stránek na trhu používají informace, které poskytovatel již shromáždil z datového skladu, nikoli přímý obsah z webových stránek, které si uživatel prohlíží. „Použití analýzy pomocí umělé inteligence může uživatelům pomoci identifikovat škodlivé webové stránky a v reálném čase rozpoznat, jak nebezpečné dané webové stránky jsou,“ vysvětlil Quang.

Členové týmu, který tuto aplikaci zavádí, mají snadný přístup k webovým stránkám, stačí jim internet. Uživatelé mohou zadat URL adresu webových stránek podezřelých z podvodu, načež je umělá inteligence může okamžitě analyzovat a zkontrolovat.

Komunitní projekty

Mladí studenti, kteří studují umělou inteligenci a software, věří, že k úspěšné realizaci projektů nestačí znalosti získané ve škole, ale že je nezbytné odhodlání, sebevzdělávání a hledání znalostí.

Člen skupiny, student Nguyen Vinh Khang, uvedl, že se jedná o komunitní projekt, a skupina doufá, že jej bude moci široce šířit mezi uživatele, což pomůže zvýšit varování komunity před rizikem setkání s falešnými webovými stránkami, malwarem, podvody a ztrátou dat nebo majetku. Zároveň skupina doufá, že získá podporu od příslušných orgánů, aby mohla podvodným webovým stránkám včas předcházet, než se rozšíří.

Pokud jde o proces implementace, Duc Sang uvedl, že největším problémem bylo, že projekt používal modely umělé inteligence, rozsáhlé jazykové modely, které existovaly pouze 1–2 roky. „U předchozích projektů a jejich předchůdců byla překážkou velmi omezená dokumentace. Tým musel mnohokrát zkoumat, učit se a experimentovat a ne vždy dosáhl očekávaných výsledků, takže to bylo poměrně časově náročné,“ vzpomínal Duc Sang.

Pro vedoucího týmu Le Nguyen Viet Cuonga je nejtěžší získávání dat, protože k trénování umělé inteligence je potřeba velké množství dat, zatímco informace a data na internetu jsou pouze na relativní úrovni.

„Protože víme, že žádný zdroj dat není dokonalý, musí členové data zadávat a upravovat ručně. Po zadání dat je čekání na výsledky od umělé inteligence zároveň dobou nervozity i vzrušení. Zpracování velkých dat může trvat celý den, a poté, co jsou výsledky zveřejněny, pokračujeme v testování. Byly chvíle, kdy jsme si mysleli, že jsme uspěli, ale výsledky nebyly přesné. I když jsme byli zklamaní, celý tým byl odhodlán najít cestu,“ řekl Cuong.

Přesnost až 98 %

Expert na kybernetickou bezpečnost Ngo Minh Hieu, ředitel projektu Chongluadao.vn, uvedl, že na konci roku 2024, když vyučoval kybernetickou bezpečnost na Swinburne University Vietnam, objevil skupinu studentů, kteří byli nadšení a rychle se učili o aplikacích umělé inteligence, a tak se sešli, aby diskutovali o svých nápadech. Nástroj pro filtrování škodlivých webových stránek, který vytvořila skupina studentů se znalostmi a zkušenostmi členů projektu Chongluadao.vn, byl dokončen s přesností více než 98 %.

„Sponzor“ projektu poznamenal, že tento nástroj pomáhá odhalit podvodné webové stránky velmi brzy, ještě před vytvořením databáze. Kromě toho má tento nástroj uživatelsky přívětivé rozhraní, které lze integrovat do rozhraní mnoha stran.

„Doufáme, že tento produkt budou moci využívat lidé, firmy i velké korporace. Doufáme také, že se studenti ve výzkumné skupině stanou generací F2 projektu Chongluadao.vn,“ uvedl pan Hieu.

Komentář (0)