Bruk av kunstig intelligens for å filtrere ut svindelnettsteder

En gruppe på fire studenter fra Swinburne University i Vietnam har fullført forskning på og testing av et verktøy for kunstig intelligens (KI) som er i stand til å identifisere og filtrere ondsinnede og falske nettsteder på bare noen få sekunder.

Fra idé til handling

Le Nguyen Viet Cuong, lederen for studentgruppen, sa at gruppemedlemmene nylig har lagt merke til fremveksten av mange stadig mer sofistikerte phishing-nettsteder, mens dagens løsninger basert på menneskelige faktorer ikke er nok til å forhindre dem.

Derfor opprettet en gruppe på fire studenter nettstedet https://ai.chongluadao.vn/, som kan analysere direkte fra nettstedet brukerne besøker for å evaluere sikkerheten. «Ved å bruke AI og analyse kan gruppen vite hvordan man svindelforetak, gi informasjon til brukere for å øke bevisstheten om brukerne», introduserte Cuong.

Ifølge Truong Duc Sang, et medlem av teamet, brukte teamet populære AI-modeller tilgjengelig på markedet som ChatGPT, Gemini, Claude, Grok, Deepseek... Etter å ha analysert og sammenlignet resultatene av modellene, driftskostnader, evaluering av nøyaktighet..., valgte teamet den beste og mest passende tekniske applikasjonen for å implementere prosjektet.

Bruk av kunstig intelligens for å filtrere ut svindelnettsteder – Bilde 1.

En gruppe på fire studenter ved Swinburne University Vietnam forsket på et kunstig intelligens-program som kan identifisere og filtrere ondsinnede nettsteder på bare noen få sekunder. Foto: DUY PHU

Et annet medlem, studenten Nguyen Van Huy Quang, påpekte at de nåværende applikasjonene for filtrering av ondsinnede og uredelige nettsteder på markedet bruker informasjon som leverandøren allerede har samlet inn fra datalageret, ikke det direkte innholdet fra nettstedet som brukeren besøker. «Bruk av AI-analyse kan hjelpe brukere med å identifisere ondsinnede nettsteder og gjenkjenne hvor farlig nettstedet er i sanntid», forklarte Quang.

Medlemmer av teamet som introduserer denne applikasjonen har enkel tilgang til nettstedet, de trenger bare internett. Brukere kan oppgi URL-en til et nettsted som mistenkes for å være svindel, og deretter kan AI analysere og sjekke umiddelbart.

Fellesskapsprosjekter

Unge studenter studerer kunstig intelligens og programvare, og tror at det ikke er nok med kunnskap lært på skolen for å kunne implementere prosjekter, men enda viktigere er besluttsomhet, selvlæring og kunnskapssøking.

Et medlem av gruppen, studenten Nguyen Vinh Khang, uttrykte at dette er et fellesskapsprosjekt, så gruppen håper å kunne spre det bredt til brukerne, noe som bidrar til å øke advarslene til samfunnet om risikoen for å støte på falske nettsteder, skadelig programvare, bli svindlet og miste data eller eiendeler. Samtidig håper gruppen også å motta støtte fra kompetente myndigheter for å raskt forhindre uredelige nettsteder før de spres.

Duc Sang snakket mer om implementeringsprosessen og sa at den største vanskeligheten var at prosjektet brukte AI-modeller, store språkmodeller som bare hadde eksistert i 1–2 år. «Med tidligere prosjekter og forgjengere var hindringen at dokumentasjonen var svært begrenset. Teamet måtte utforske, lære og eksperimentere mange ganger og oppnådde ikke alltid de forventede resultatene, så det var ganske tidkrevende», mintes Duc Sang.

For teamleder Le Nguyen Viet Cuong er den vanskeligste delen å få tak i data, fordi det trengs mye data for å trene opp AI, mens informasjon og data på internett bare er på et relativt nivå.

«Fordi vi vet at ingen datakilde er perfekt, må medlemmene manuelt legge inn og redigere data. Etter at dataene er lagt inn, er det også en tid med både nervøsitet og spenning å vente på at AI-en skal returnere resultatene. Store mengder data kan ta hele dagen å kjøre, og etter at resultatene er ute, fortsetter vi å teste. Det var tider da vi trodde vi hadde lyktes, men resultatene var ikke nøyaktige. Selv om vi var skuffet, var hele teamet fast bestemt på å finne en måte å gjøre det på», sa Cuong.

Nøyaktighet opptil 98 %

Nettsikkerhetsekspert Ngo Minh Hieu, direktør for Chongluadao.vn-prosjektet, sa at han på slutten av 2024, mens han underviste i nettsikkerhet ved Swinburne University Vietnam, oppdaget en gruppe studenter som var entusiastiske og raske til å lære om AI-applikasjoner, så de samlet seg for å diskutere ideene sine. Filtreringsverktøyet for ondsinnede nettsteder, laget av gruppen studenter med kunnskapen og erfaringen til medlemmene av Chongluadao.vn-prosjektet, ble ferdigstilt med en nøyaktighet på over 98 %.

Prosjektets «sponsor» kommenterte at dette verktøyet bidrar til å oppdage svindelnettsteder veldig tidlig, selv før databasen opprettes. I tillegg har dette verktøyet et brukervennlig grensesnitt som kan integreres i grensesnittet til mange parter.

«Vi håper at dette produktet kan brukes av enkeltpersoner, bedrifter og store selskaper. Vi håper også at studentene i forskningsgruppen blir den første generasjonen av Chongluadao.vn-prosjektet», uttrykte Hieu.

Kilde: https://nld.com.vn/ung-dung-ai-de-loc-website-lua-dao-196250422215400349.htm