Datasikkerhed i AI'ens tidsalder.

Deepfakes, phishing-angreb og digital identitetstyveri bliver mere sofistikerede og kan ramme når som helst og ramme alle, der mangler digitale forsvarsevner.

Angrib fra alle vinkler.

Google har lanceret et nyt kunstig intelligens (AI)-produkt kaldet "Gemini Nano Banana", som ikke er en storstilet sproglig AI (LLM), der er i stand til at skrive og ræsonnere, men snarere en AI, der specialiserer sig i fotoredigering... Mange brugere er begejstrede for dette værktøj, men det medfører også en række ulemper.

Tran Hung Dao Primary School i Cau Ong Lanh Ward, Ho Chi Minh City, bruger et ansigtsgenkendelsessystem til at registrere fremmøde og sende meddelelser til forældre via en app. Foto: HOANG HUNG

"Det er som et 'skridt tilbage' inden for AI-teknologi og etiske begrænsninger," sagde Nguyen Hong Phuc, Chief Scientific Officer hos Conductify AI, og udtrykte sin personlige mening. "Gemini Nano Banana har effektive billedredigeringsfunktioner. Men Googles afcensurering af Gemini Nano Banana, der løsner barriererne og begrænsende mekanismer, gør det muligt for denne AI at skabe billeder, der er utroligt lig berømtheder, suggestive billeder, følsomme billeder osv.," sagde Phuc.

Ifølge hr. Nguyen Hong Phuc gør denne funktion Gemini Nano Banana til et værktøj til at skabe realistiske falske billeder, i en sådan grad at selv AI-eksperter ikke kan skelne dem fra hinanden, hvilket fører til nye risici for svindel og cybersikkerhed, såsom at skabe falske fotos med berømte politikere for at sprede falske oplysninger, og endda at enkeltpersoner udsættes for AI-genereret fotomanipulation og ærekrænkelse på sociale medier...

Derudover viser deepfake-svindelnumre ingen tegn på at stoppe, da snesevis af andre AI-billedredigeringsværktøjer tager internettet med storm. Statistikker fra sikkerhedsorganisationer viser, at deepfake-teknologi skaber phishing-kampagner rettet mod værdifulde individer, især virksomhedsledere. I 2024 var der 140.000-150.000 tilfælde globalt, hvoraf 75% var rettet mod administrerende direktører og ledende medarbejdere... Deepfakes kan øge de globale økonomiske tab med 32%, cirka 40 milliarder dollars om året inden 2027.

Du vil måske også synes om

Microsoft lancerer Scout, en personlig AI-assistent.VTV.vn - Microsoft har lanceret Scout, en personlig AI-assistent, der kan lære, hvordan brugere arbejder i Microsoft 365-økosystemet.

For nylig opdagede og afværgede AI-virksomheden Anthropic en cyberangrebskampagne udført af udenlandske hackere, som for første gang registrerede brugen af ​​AI til at koordinere automatiserede angrebsaktiviteter. Hackerne brugte specifikt AI-systemer til at planlægge, dirigere og implementere indtrængningsoperationer – en "bekymrende" udvikling, der risikerer at udvide omfanget og hastigheden af ​​cyberangrebskampagner ...

Hr. Ngo Minh Hieu, direktør for Anti-Fraud Organization of the National Cybersecurity Association, fortalte, at AI-integrerede værktøjer øger hastigheden af ​​svindel med omkring 20 gange sammenlignet med at bruge rigtige mennesker. Svindlere giver AI'en et svindelscenarie til analyse, og systemet chatter straks automatisk med ofrene. Ud fra de indledende data kan AI'en forstå, hvad offeret ønsker, og kommunikere med dem i realtid. Den mest sofistikerede taktik er "Man-in-the-Middle"-angrebet, hvor hackeren, når en bruger udfører videogodkendelse (f.eks. at optage sit ansigt eller give kommandoer), griber ind for at forstyrre de overførte data. Cyberkriminelle indsætter derefter præforberedte deepfake-videoer og erstatter brugerens rigtige datastrøm for at omgå godkendelsesprocessen. Med denne metode risikerer bankers og finansielle institutioners sikkerhedssystemer også at blive bedraget.

Bedre datahåndtering

Efterhånden som AI bliver mere og mere udbredt, stiger sikkerheds- og privatlivsrisici også betydeligt. Data, der lagres og behandles på eksterne servere, vil blive et attraktivt mål for hackere og cyberkriminelle. Ifølge data fra National Cyber ​​Security Association steg antallet af AI-drevne cyberangreb alene i andet kvartal af 2025 med 62 %, hvilket forårsagede globale tab på op til 18 milliarder dollars...

Eksperter mener, at databeskyttelse er afgørende. Indsamling og salg af data fortsætter dog åbent på mange "sorte markeds"-platforme for så lidt som $20 om måneden. Cyberkriminelle kan bruge værktøjer, der efterligner sprogmodeller, men er tilpasset kriminelle formål. Disse værktøjer er i stand til at generere malware og endda omgå antivirussoftware.

I Vietnam regulerer dekret nr. 13/2023/ND-CP (i kraft fra 17. april 2023) beskyttelsen af ​​personoplysninger. Desuden vil loven om beskyttelse af personoplysninger, der forventes at træde i kraft den 1. januar 2026, åbne op for en stærkere juridisk mekanisme til at håndtere risikoen for lækage og misbrug af personoplysninger. Ifølge National Cybersecurity Association skal håndhævelsens effektivitet dog stadig styrkes på tværs af tre søjler: at øge den offentlige bevidsthed, øge virksomhedernes ansvar og forbedre reguleringsmyndighedernes behandlingskapacitet. Ud over tekniske foranstaltninger skal hver enkelt person udvikle evnen til at identificere usædvanlige og mistænkelige tegn og proaktivt beskytte sig selv mod farlige digitale interaktioner...

Kaspersky har advaret om udnyttelsen af ​​mørk kunstig intelligens (et udtryk, der refererer til implementeringen af ​​store sprogmodeller (LLM'er), der opererer uden for standard sikkerhedskontroller, hvilket ofte muliggør handlinger som phishing, manipulation, cyberangreb eller datamisbrug). Organisationer og enkeltpersoner skal forberede sig på at stå over for stadig mere sofistikerede og vanskeligt opdagelige cyberangreb på grund af fremkomsten af ​​mørk kunstig intelligens i Asien-Stillehavsregionen.

Du vil måske også synes om

Styrk inspektion og tilsyn fra ethanolproduktionsfasen til blanding af E10-benzin.Dr. Dang Tat Thanh, repræsentant for Departementet for Innovation, Grøn Transformation og Industrifremme (Ministeriet for Industri og Handel), udtalte, at Ministeriet for Industri og Handel vil etablere en mekanisme til at modtage og behandle feedback fra borgere og virksomheder under implementeringen af ​​salg af E10-benzin.

Sergey Lozhkin, chef for det globale forsknings- og analyseteam (GReAT) for Mellemøsten, Tyrkiet, Afrika og Asien-Stillehavsområdet hos Kaspersky, fortalte, at en manifestation af det nuværende misbrug af kunstig intelligens er fremkomsten af ​​Black Hat GPT-modeller. Disse er kunstig intelligens-modeller, der er specifikt udviklet eller modificeret til at tjene uetiske og ulovlige formål, såsom at skabe malware, udarbejde flydende og overbevisende phishing-e-mails til store angreb, skabe deepfake-stemmer og -videoer og endda understøtte simulerede angreb.

Kaspersky-eksperter anbefaler, at enkeltpersoner og virksomheder bruger næste generations sikkerhedsløsninger til at opdage AI-genereret malware, samtidig med at de prioriterer databeskyttelse. Virksomheder bør implementere overvågningsværktøjer i realtid for at spore AI-drevet udnyttelse af sårbarheder; styrke adgangskontrol og medarbejderuddannelse for at begrænse AI i den mørke zone og risikoen for datalækager; og etablere et cybersikkerhedsoperationscenter til at overvåge trusler og reagere hurtigt på hændelser.

KIM THANH

Kilde: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html