Misbruk av kunstig intelligens kan sette datasikkerheten i fare.

Revolusjonen innen kunstig intelligens (KI) eksploderte fra slutten av 2022, spesielt etter at OpenAI lanserte ChatGPT. Kort tid etter lanserte store teknologiselskaper også andre KI-verktøy – som Microsofts Copilot og Bing, og Googles Gemini – noe som ytterligere økte nytten av KI. Disse verktøyene kan hjelpe med alt fra å skrive kode og analysere data til å syntetisere informasjon på kort tid. Dette har ført til at mange brukere har blitt mer interessert i KI.

Bruker den samtidig som man er bekymret.

Nguyen Hoai Sang, en kontoransatt i Binh Thanh-distriktet i Ho Chi Minh-byen, sa at siden han begynte å bruke AI-programvare, har det å utarbeide forretningsrapporter, samle informasjon og ta notater fra interne møter eller kundemøter via Google Meet og Zoom-plattformene spart ham for omtrent 40–50 % av tiden sammenlignet med manuelle metoder. Etter å ha lastet ned AI-verktøyene, la han imidlertid merke til at datamaskinen hans frøs i 1–2 minutter, og ytelsen ble også dårligere sammenlignet med før.

«Foruten ChatGPT, Copilot og Gemini, søkte jeg i Google Chromes utvidelsesbutikk og installerte flere AI-verktøy som Sider, SearchGPT og Tactiq. Siden den gang har datamaskinen min blitt tregere. For eksempel går det ikke lenger problemfritt å skrive i Word-filer, og det tar 5–7 sekunder lenger enn vanlig å åpne enkle programmer, selv om det er en god bærbar PC på markedet. Som et resultat blir arbeidet mitt noen ganger avbrutt, noe som forårsaker distraksjon og frustrasjon. Men det som bekymrer meg er om dette skyldes en virusinfeksjon og at AI infiltrerer enheten for å stjele data?» – var bekymret for Mr. Sang.

I mellomtiden mener Xuan Thanh, en IT-ansatt i Ho Chi Minh-byen, hvis hovedjobb er å rette interne systemfeil i bedrifter, at AI er til stor hjelp i arbeidet hans, og at det bare kreves beskrivelser og kodeskriving for å raskt løse feil. Han er imidlertid også bekymret for sikkerhetsmessige implikasjoner av AI.

«Det finnes noen oppgaver som krever umiddelbar bruk av AI, så jeg er tvunget til å bruke den. Men jeg er fortsatt bekymret for at eierne av AI-programvare kan bruke dataene som samles inn under samhandling og spørsmål gitt til AI-en til å infiltrere brukernes systemer. Eller, når AI-en samler inn data levert av brukere, kan ondsinnede aktører spørre om det, og ville AI-en gi informasjonen? Selv om det ikke har vært noen hendelser relatert til dette ennå, er jeg fortsatt usikker på sikkerheten til AI», sa Thanh skeptisk.

AI-programvare kan være årsaken til datamaskinfeil.

Vær forsiktig når du laster ned AI.

Ifølge Nguyen Huu Nguyen, visedirektør for Vietnams nasjonale senter for cybersikkerhet og beredskap (VNCERT), kan dataforsinkelser og redusert ytelse etter nedlasting av AI-programvare skyldes de komplekse funksjonene til AI-programvaren som bruker mye systemressurser, og ikke nødvendigvis på grunn av et virus.

Ifølge Nguyen må imidlertid brukere være forsiktige når de laster ned AI fra upålitelige kilder, da det kan inneholde skadelig programvare som kan hacke seg inn i systemet. Brukere bør også være oppmerksomme på databeskyttelse og lese personvernerklæringen og bruksvilkårene for AI-verktøy nøye for å forstå hvordan de samler inn og bruker data. I tillegg bør tilgangen til enheten kontrolleres når man bruker AI. Viktige dokumenter bør spesielt ikke deles med AI for å minimere risikoen.

Ta Cong Son, leder for avdelingen for AI-utvikling – et prosjekt mot svindel, mener at datamaskiner som blir tregere eller til og med fryser etter at AI er lastet inn, kan skyldes utilstrekkelig RAM til å håndtere funksjonene. Dette er imidlertid også et varseltegn på at brukere kan stå overfor visse risikoer.

«For å sikre sikkerheten bør brukere begrense tilgangen til AI. Når et program ber om tillatelse, må brukerne nøye vurdere om det er nødvendig og trygt å gi denne tillatelsen. En trygg måte å bruke AI-verktøy på er å bruke antivirusprogrammer til å skanne og sjekke. I tillegg kan brukere bruke nettsteder som Virustotal.com eller Eset.com for å sjekke om AI-en inneholder skadelig programvare eller er trygg», anbefalte Son.

På et nylig høynivåseminar om cybersikkerhet i 2024 uttalte Tran Son Binh, forretningsdirektør i AMD Vietnam, at brukere som bruker ChatGPT til å skrive kode, programmere eller oppsummere data kan føre til systemsikkerhetsproblemer. Dette er fordi koden levert av AI kan inneholde ondsinnet kode, og AI-en kan bruke dette til å utnytte sårbarheter og endre datastrukturer, og dermed kompromittere systemets sikkerhet og ytelse.

Herr Binh understreket: «Enhetene må kontrollere personellet sitt når de bruker kunstig intelligens til å skrive rapporter og syntetisere informasjon basert på brukerleverte data, spesielt innhold relatert til forretnings- og nasjonale hemmeligheter. Akkurat nå er vi fortsatt i en trygg sone, men hvem vet om disse dataene vil forbli sikre i fremtiden?»

AI vil samle inn data.

Ifølge Gemini hjelper det brukerne med å forbedre Googles tjenester, inkludert maskinlæringsmodellene Gemini bruker ved å chatte med appen. I denne forbedringsprosessen må trente anmeldere behandle brukersamtaler. «Når du bruker Gemini, må du derfor ikke legge inn informasjon du ikke vil at anmelderne skal se, eller som du ikke vil at Google skal bruke», råder Gemini.

Når det gjelder Copilot, oppgir Microsoft at de samler inn data fra brukere gjennom interaksjoner. AI-produktene de leverer er basert på brukerinndata, og noen genereres av at plattformen samler inn data om andre interaktive aktiviteter.

Dette betyr at når brukere deler informasjon med AI-en, samler applikasjonen den inn for å gjøre verktøyet smartere. Dette innebærer at brukerdata som de ikke ønsker skal bli delt med andre, kan være synlige for dem.

Kilde: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm