AI-bildetrenden om «snøhvit vinter» har potensiell risiko for lekkasje av personopplysninger

"Snøhvit vinter"-feber dekker sosiale nettverk

Ifølge Ha Tinh- provinsens elektroniske informasjonsportal har trenden med kunstig intelligens-fotoproduksjon, som kalles «snøhvit vinter», skapt en stor bølge i teknologimiljøet, og tiltrukket seg mange unge vietnamesere til å komme og redigere bildene sine, kort tid etter lanseringen.

Mange unge i Ha Tinh lager bilder med snø, noe som er en populær trend på sosiale nettverk. (Foto: Ha Tinh Newspaper)

Ifølge forskning startet denne trenden med videoer som instruerte hvordan man lager «snøstemningsbilder», som gikk viralt på TikTok og Facebook. De fleste brukerne valgte appen «Gemini AI» for å implementere denne trenden på grunn av dens evne til å behandle bilder raskt. Brukere trenger bare å laste opp et personlig portrettbilde, og deretter skrive inn en beskrivende kommando som: «jente/gutt som holder en gjennomsiktig paraply, lett snø, svakt lys, trist uttrykk», og noen sekunder senere vil det komplette bildet vises.

Hvis bildet ikke er tilfredsstillende, kan brukerne fortsette å be AI om å gjøre justeringer som å øke snøtykkelsen, endre belysningen, justere stemningen eller legge til detaljer som en lang ullfrakk, et varmt skjerf ... helt til de får et tilfredsstillende resultat.

I tillegg til «Gemini AI» kan brukere også bruke mange andre bilderedigeringsprogrammer som: «Xinghui», «Xingtu», «Meitu»,... for å lage «veldig filmatiske» bilder i snøen med mange tilgjengelige maler.

Muligheten til å redigere disse bildene er høyt verdsatt for sin autentisitet. Men i tillegg til bekvemmeligheten og kreativiteten, reiser denne trenden også mange bekymringer om risikoen for lekkasje av ansiktsdata og personopplysninger, samtidig som den skaper muligheter for skurker til å utgi seg for å være og angripe svindelforbrytere.

En undersøkelse blant mange som følger «snøvinter»-trenden i Ha Tinh viste at de fleste brukere som kommer i kontakt med denne måten å lage bilder på, ofte ikke leser bruksvilkårene eller personvernerklæringen nøye. De deler personlige bilder med tankegangen om å «ha det gøy, eksperimentere» eller fordi de ønsker å «følge trenden» for å øke interaksjonen på sosiale nettverk.

Da Nguyen Thi Thuong (22 år gammel, Cam Xuyen kommune) så vennene sine legge ut bilder av snødekt vinter på Facebook, ble hun nysgjerrig og lastet ned appen for å oppleve det. I starten kunne Thuong bruke den gratis, så hun var ganske interessert. Hun tok initiativ til å lage bilder for hele familien. Da hun så at familien sin likte det, fortsatte Thuong å kjøpe en betalt pakke for å få flere redigeringsfunksjoner etter eget ønske.

«Jeg synes denne trenden er ganske interessant fordi den kan gjøre hverdagsbilder om til kunstneriske bilder på bare noen få sekunder. Men etter å ha undersøkt og visst at disse fotoappene lett kan lekke personopplysninger, ble jeg veldig redd og følte at det var farlig, fordi jeg brukte bilder av hele familien min til å lage bildene. Hvis disse bildene ble stjålet eller brukt ulovlig, ville konsekvensene være uforutsigbare ...», bekymret Thuong seg.

Dang Thi Thuy Huyen (25 år gammel, Tran Phu-distriktet) deler den samme oppfatningen: «Nylig, når jeg går inn på Facebook og ser alle vennene mine legge ut bilder i det snødekte vinterlandskapet, blir jeg bekymret for sikkerheten til appen. Brukere har høy risiko for at personopplysningene deres lekkes hvis de ikke er forsiktige.»

Ikke la et «pent bilde» koste deg personopplysninger

Til tross for kreativiteten det bringer med seg, advarer eksperter om at misbruk av AI kan ha mange alvorlige konsekvenser.

I henhold til dekret 13/2023/ND-CP er biometriske data, inkludert ansiktsbilder, en sensitiv datagruppe som må beskyttes på høyeste nivå. Databehandlingsorganisasjoner må være transparente om sine formål, ha klart samtykke fra den registrerte, ikke overføre data til utlandet uten å sikre sikkerhet, og tilby en mekanisme for å slette data på forespørsel. Imidlertid har de fleste av de nåværende trendende AI-applikasjonene ikke servere i Vietnam, er ikke transparente om vilkår, og tilbyr ikke en mekanisme for å trekke tilbake data, noe som skaper usikkerhet.

Pham Minh Hieu, en offiser ved avdelingen for cybersikkerhet og høyteknologisk kriminalitetsforebygging i Ha Tinh provinsielle politi, analyserte dette problemet grundig og sa at mange brukere fortsatt ikke er fullt klar over sikkerhetsrisikoene ved installasjon av fotoredigeringsprogrammer med kunstig intelligens. Selv om det har vært mange advarsler om risikoen for usikkerhet eller datalekkasje ved bruk av apper av ukjent opprinnelse, er det nesten hver gang det dukker opp en ny trend, mange som er villige til å prøve det og gi applikasjonen gratis tilgang til telefonene sine.

Ifølge Hieu bør det kun brukes pålitelige applikasjoner til å lage AI-bilder av «snøhvit vinter», og installasjon av ny programvare og ukjente kilder bør begrenses, fordi personlige bildedata kan utnyttes til å spore, identifisere eller vise uredelig og villedende atferd. Samtidig må brukerne lage AI-bilder på en ansvarlig måte, uten å forårsake negative effekter for andre.

«I den digitale dataalderen er hvert bilde av et klart ansikt en verdifull ressurs som må beskyttes. Derfor må brukere være oppmerksomme på å unngå å eksponere biometriske data. Spesielt unge mennesker må være ansvarlige når de bruker AI til å lage bilder, ikke manipulere bilder, ærekrenke eller baktale andre, og unngå å stole for mye på AI-verktøy som fører til ukontrollert «virtuell livsstil» – understreket Pham Minh Hieu.»

Du bør lære deg og bruke trygge fotoprogrammer. (Foto: Ha Tinh Newspaper)

Ifølge Vu Ngoc Son, leder for teknologiavdelingen i National Cyber Security Association, kan trenden med å bruke apper for å lage morsomme eller unike bilder umiddelbart tiltrekke seg brukere. Det er imidlertid viktig å merke seg at denne typen apper krever tilgang til fotomappen på enheten. Dette er en ekstremt sensitiv rettighet, og risikoen for at personopplysninger lekker er høy.

Herr Son forklarte at i en tid med sterk AI-utvikling er bilder ikke bare personlige bilder, men også en verdifull datakilde. Basert på de innsamlede bildene kan AI-teknologi analysere brukerens identitet, interesser, steder de ofte besøker og til og med forhold til andre. Det finnes mange tilfeller der de innsamlede bildedataene har blitt solgt til selskaper som spesialiserer seg på å utnytte personlig informasjon. Den umiddelbare effekten kan være at brukerne bare blir plaget av en rekke målrettede annonser, men i det lange løp er risikoen for at bilder brukes til svindel, forfalskning eller til og med utpressing fullt mulig.

Ifølge Son bør brukere være forsiktige når de laster ned og bruker apper av ukjent opprinnelse i et digitalt miljø fullt av risikoer. Han understreket at cyberspace kan være farlig, men hvorvidt man skal avsløre personopplysninger eller ikke, avhenger i stor grad av hver enkelt persons bevissthet og valg.

WhiteHat Hacker Forum advarte også om at AI-integrerte bilderedigeringsapper kan være «teknologiske feller». Følgelig kan brukere bli bedt om å gi tilgang til bilder, kameraer, enhetsminne og til og med andre personopplysninger når de installerer appen. Hvis ikke streng kontroll er nødvendig, kan brukernes personopplysninger samles inn og brukes til uønskede formål.

Det er også risiko for datalekkasje. Bilderedigeringsprogrammer, spesielt de som kommer fra utlandet, kan utgjøre en risiko for lekkasje av brukerdata. Fotodata og personlig informasjon kan samles inn og lagres på utenlandske servere uten brukerens viten.

For å sikre sikkerheten til personlig informasjon anbefaler WhiteHat at brukere kun laster ned apper fra offisielle kilder for å unngå falske apper som inneholder skadelig programvare; kontrollere tilgangsrettigheter og kun gi de rettighetene som virkelig er nødvendige.

Ikke last opp sensitive bilder for å unngå risikoen for å eksponere personopplysninger; Sjekk og oppdater applikasjonen regelmessig for å unngå sikkerhetshull; Samtidig bør du avbryte abonnementer på uønskede tjenestepakker for å unngå uønskede kostnader.

Selv om AI-integrerte bilderedigeringsprogrammer gir mange fordeler og skaper moro for brukerne, må du fortsatt være årvåken og ha løsninger for å beskytte personopplysninger. Spesielt når du bruker programmer fra utenlandske utviklere, må du være forsiktig med sikkerhets- og personvernrisikoer for å unngå uheldige konsekvenser.

Kilde: https://khoahocdoisong.vn/trend-anh-ai-mua-dong-tuyet-roi-tiem-an-nguy-co-ro-ri-du-lieu-ca-nhan-post2149068884.html