Använda AI för att filtrera bort nätfiskewebbplatser.

En grupp på fyra studenter från Swinburne University i Vietnam har framgångsrikt slutfört forskning och tester av ett verktyg för artificiell intelligens (AI) som kan identifiera och filtrera skadliga och falska webbplatser på bara några sekunder.

Från idé till handling

Le Nguyen Viet Cuong, ledaren för studentgruppen, sa att gruppmedlemmarna har noterat den senaste tidens framväxt av många bedrägliga webbplatser med alltmer sofistikerade metoder, medan nuvarande lösningar som förlitar sig på mänsklig intervention är otillräckliga för att förhindra dem.

Därför skapade gruppen med fyra studenter webbplatsen https://ai.chongluadao.vn/, som direkt kan analysera webbplatsen som användaren besöker för att bedöma dess säkerhet. "Genom att tillämpa AI och analys kan gruppen identifiera bedrägerimetoder och ge information till användarna för att öka deras medvetenhet", förklarade Cường.

Enligt Truong Duc Sang, en medlem i teamet, använde gruppen populära AI-modeller som finns lätt tillgängliga på marknaden, såsom ChatGPT, Gemini, Claude, Grok, Deepseek, etc. Efter att ha analyserat och jämfört resultaten av modellerna, driftskostnaderna och noggrannhetsbedömningarna valde gruppen den bästa och mest lämpliga applikationen för projektet.

Använda AI för att filtrera bort bluffwebbplatser - Bild 1.

En grupp på fyra studenter vid Swinburne University i Vietnam forskar på en applikation för artificiell intelligens som kan identifiera och filtrera skadliga webbplatser på bara några sekunder. (Foto: DUY PHÚ)

En annan medlem, studenten Nguyen Van Huy Quang, påpekade att de applikationer som för närvarande finns på marknaden och som filtrerar bort skadliga och bedrägliga webbplatser använder information som redan samlats in av leverantören i deras databas, inte innehåll direkt från webbplatsen som användaren besöker. "Att använda AI-analys kan hjälpa användare att identifiera skadliga webbplatser och förstå hur farliga de är i realtid", förklarade Quang.

Medlemmar i teamet som marknadsför den här applikationen kan enkelt komma åt den via webbplatsen, vilket bara kräver en internetanslutning. Användare kan ange URL:en till en webbplats som misstänks vara bedräglig, och AI:n kan sedan analysera och verifiera den omedelbart.

Samhällsprojekt

Unga studenter som studerar AI och mjukvara tror att för ett framgångsrikt projektgenomförande räcker det inte med kunskap som inhämtats i skolan; det viktigaste är beslutsamhet, självinlärning och en törst efter kunskap.

Gruppmedlemmen, studenten Nguyen Vinh Khang, uttryckte att detta är ett samhällsorienterat projekt, och gruppen hoppas kunna sprida information till användarna i stor utsträckning, vilket bidrar till att öka medvetenheten i samhället om riskerna med att stöta på falska webbplatser, skadlig kod och att bli lurad på data eller tillgångar. Samtidigt hoppas gruppen också få stöd från relevanta myndigheter för att snabbt förhindra att bedrägliga webbplatser sprids.

Duc Sang utvecklade implementeringsprocessen och sa att den största utmaningen var att projektet använde AI-modeller, storskaliga språkmodeller som bara hade funnits i 1–2 år. ”Med tidigare projekt och de som kom före var hindret den mycket begränsade dokumentationen. Teamet var tvunget att noggrant undersöka, experimentera och försöka många gånger, och inte varje försök gav de förväntade resultaten, så det var ganska tidskrävande”, mindes Duc Sang.

Enligt teamledaren Le Nguyen Viet Cuong var den svåraste delen datainsamlingen, eftersom mycket data behövs för att träna AI:n, medan informationen och data på internet bara är relativt exakta.

"Eftersom vi visste att det inte fanns någon perfekt datakälla var teammedlemmarna tvungna att manuellt mata in och redigera data. Efter att ha matat in data var det både nervpirrande och spännande att vänta på att AI:n skulle returnera resultaten. Stora datamängder kunde ta en hel dag att bearbeta, och efter att resultaten kom tillbaka fortsatte vi att testa. Det fanns tillfällen då vi trodde att vi hade lyckats, men resultaten visade låg noggrannhet. Även om vi var besvikna var hela teamet fast beslutna att hitta en lösning", berättade Cường.

Noggrannhet upp till 98%

Cybersäkerhetsexperten Ngo Minh Hieu, chef för Chongluadao.vn-projektet, sa att han i slutet av 2024, medan han undervisade i cybersäkerhet vid Swinburne University Vietnam, upptäckte en grupp studenter som var mycket entusiastiska och snabba på att tillämpa AI. Han samlade dem sedan för att diskutera sin långvariga idé. Filtreringsverktyget för skadliga webbplatser, som utvecklats av studentgruppen med hjälp av kunskapen och erfarenheten hos Chongluadao.vn-projektmedlemmarna, har färdigställts och uppnår en noggrannhet på över 98 %.

Projektets "beskyddare" kommenterade att verktyget hjälper till att upptäcka nätfiskewebbplatser mycket tidigt, redan innan en databas har upprättats. Dessutom har verktyget ett användarvänligt gränssnitt och kan integreras i många olika parters gränssnitt.

"Vi hoppas att den här produkten kan användas av privatpersoner, företag och stora företag. Vi hoppas också att studenterna i forskargruppen blir den första generationen av Chongluadao.vn-projektet", uttryckte Hieu.

Kommentar (0)