Använda AI för att filtrera phishing-webbplatser

En grupp på fyra studenter från Swinburne University i Vietnam har framgångsrikt slutfört forskning och tester av ett verktyg för artificiell intelligens (AI) som kan identifiera och filtrera skadliga och falska webbplatser på bara några sekunder.

Från idé till handling

Le Nguyen Viet Cuong, ledaren för studentgruppen, sa att gruppmedlemmarna nyligen har noterat framväxten av många alltmer sofistikerade nätfiskewebbplatser, medan nuvarande lösningar som förlitar sig på mänskliga faktorer inte räcker till för att förhindra dem.

Därför skapade en grupp på fyra studenter webbplatsen https://ai.chongluadao.vn/, som kan analysera direkt från webbplatsen som användare besöker för att utvärdera säkerheten. "Genom att tillämpa AI och analys kan gruppen veta hur man bedrar, ge information till användare för att öka medvetenheten om användarna", presenterade Cuong.

Enligt Truong Duc Sang, en medlem i teamet, använde teamet populära AI-modeller som finns på marknaden, såsom ChatGPT, Gemini, Claude, Grok, Deepseek... Efter att ha analyserat och jämfört modellernas resultat, driftskostnader, utvärdering av noggrannhet... valde teamet den bästa och mest lämpliga tekniska applikationen för att genomföra projektet.

Använda AI för att filtrera bort bedrägliga webbplatser - Foto 1.

En grupp på fyra studenter vid Swinburne University Vietnam undersökte en applikation för artificiell intelligens som kan identifiera och filtrera skadliga webbplatser på bara några sekunder. Foto: DUY PHU

En annan medlem, studenten Nguyen Van Huy Quang, påpekade att de nuvarande applikationerna för filtrering av skadliga och bedrägliga webbplatser på marknaden använder information som leverantören redan har samlat in från datalagret, inte det direkta innehållet från webbplatsen som användaren besöker. "Att använda AI-analys kan hjälpa användare att identifiera skadliga webbplatser och inse hur farlig webbplatsen är i realtid", förklarade Quang.

Medlemmar i teamet som introducerar den här applikationen kan enkelt komma åt webbplatsen, de behöver bara internet. Användare kan ange URL:en till en webbplats som misstänks vara bedräglig, sedan kan AI analysera och kontrollera omedelbart.

Samhällsprojekt

Genom att studera AI och mjukvara tror unga studenter att det inte räcker med kunskap som inhämtats i skolan för att framgångsrikt genomföra ett projekt, utan ännu viktigare är beslutsamhet, självstudier och kunskapssökande.

En medlem i gruppen, studenten Nguyen Vinh Khang, uttryckte att detta är ett samhällsprojekt, så gruppen hoppas kunna sprida det till användarna i stor utsträckning, vilket bidrar till att öka varningarna till samhället om risken att stöta på falska webbplatser, skadlig kod, bli lurad och förlora data eller tillgångar. Samtidigt hoppas gruppen också få stöd från behöriga myndigheter för att snabbt förhindra bedrägliga webbplatser innan de sprids.

Duc Sang sa att den största svårigheten var att projektet använde stora AI-modeller och språkmodeller som bara hade funnits i 1–2 år. ”Med tidigare projekt och föregångare var hindret att dokumentationen var mycket begränsad. Teamet var tvunget att utforska, undersöka och experimentera många gånger, och inte varje gång var resultaten som förväntat, så det var ganska tidskrävande”, mindes Duc Sang.

För teamledaren Le Nguyen Viet Cuong är den svåraste delen att få fram data, eftersom mycket data behövs för att träna AI, medan information och data på internet bara finns på en relativ nivå.

"Eftersom vi vet att ingen datakälla är perfekt måste medlemmarna manuellt mata in och redigera data. Efter att ha matat in data är det också en tid av både spänning och nervositet att vänta på att AI:n ska returnera resultaten. Stora datamängder kan ta hela dagen att köra, och efter att resultaten är ute fortsätter vi att testa. Det finns tillfällen då vi tror att vi har lyckats men resultaten inte är korrekta. Även om vi är besvikna är hela teamet fast beslutna att hitta en lösning", sa Cuong.

Noggrannhet upp till 98%

Cybersäkerhetsexperten Ngo Minh Hieu, chef för Chongluadao.vn-projektet, sa att han i slutet av 2024, medan han undervisade i cybersäkerhet vid Swinburne University Vietnam, upptäckte en grupp studenter som var entusiastiska och snabba på att lära sig om AI-applikationer, så de samlades för att diskutera sina idéer. Filtreringsverktyget för skadliga webbplatser utvecklades av gruppen studenter med samma kunskap och erfarenhet som medlemmarna i Chongluadao.vn-projektet, med en noggrannhet på mer än 98 %.

Projektets "sponsor" kommenterade att det här verktyget hjälper till att upptäcka bedrägliga webbplatser mycket tidigt, redan innan det finns en databas. Dessutom har verktyget ett användarvänligt gränssnitt som kan integreras i många parters gränssnitt.

"Vi hoppas att den här produkten kan användas av privatpersoner, företag och stora företag. Vi hoppas också att studenterna i forskargruppen blir den första generationen av Chongluadao.vn-projektet", uttryckte Hieu.

Källa: https://nld.com.vn/ung-dung-ai-de-loc-website-lua-dao-196250422215400349.htm