AI-bilder og -videoer oversvømmer Facebook: Tilsynelatende ufarlige, men ekstremt farlige

Mens hun blar gjennom bildet av et soldatpar som holder firlinger på Facebook, kommenterte 42 år gamle Linh av vane «Gratulerer til dere to». Hun trakk det imidlertid umiddelbart tilbake fordi hun følte at «noe var galt».

Da hun så på det igjen, innså hun at dette bare var et AI-bilde brukt av en Facebook-side for å illustrere et sentimentalt innlegg. Det er verdt å nevne at dette var andre gang hun «nesten» ble lurt av AI. Før det hadde hun også forvekslet videoen «‘pensjonister’ som møter ‘sommerferiedeltakere’» med ekte mennesker og ekte hendelser.

Linh jobbet i mediebransjen og ble jevnlig eksponert for AI-innhold, og måtte innrømme at denne teknologien har utviklet seg så raskt og sofistikert at det er vanskelig å skille mellom ekte og falskt.

Det virale bildet på Facebook ble laget av AI. Skjermbilde.

Eksperter er også enige i dette synet. Verktøy som Google Veo 3, Kling AI, DALL·E 3, Midjourney... har nådd muligheten til å lage utrolig realistiske bilder og videoer.

Do Nhu Lam, opplæringsdirektør ved Blockchain Technology and Artificial Intelligence Institute ABAII, påpekte at takket være multimodal teknologi og avanserte språkmodeller kan disse verktøyene synkronisere bilder, lyder, ansiktsuttrykk og naturlige bevegelser, og dermed skape svært overbevisende produkter.

Do Nhu Lam, opplæringsdirektør ved Blockchain Technology and Artificial Intelligence Institute ABAII, sa at avansert AI-teknologi gir svært overbevisende produkter. Foto: NVCC

Lam kommenterte at fremskrittene innen kunstig intelligens åpner for et stort potensial innen områder som innholdsproduksjon, reklame, underholdning og utdanning . Denne «livaktige» evnen til å gjenskape byr imidlertid også på mange utfordringer innen etikk, kontroll og informasjonssikkerhet, ettersom grensen mellom virkelighet og virtualitet blir stadig mer uskarp.

Facebook-innlegget som Linh så, tiltrakk seg nesten 300 000 interaksjoner og mer enn 16 000 kommentarer. Mange brukere hastet med å gratulere eller uttrykke følelsene sine uten å vite at dette bare var et AI-illustrasjonsbilde. Noen mer «edruelige» personer kritiserte «nettbrukere for å være for naive» til å la AI lure dem.

På Facebook-grupper og -forum er det ikke vanskelig å se AI-videoer laget og delt av brukere. Spesielt har fremveksten av Google Veo 3 økt kvaliteten på videoene betydelig, spesielt stemmen som matcher karakterens munnform. Hvis du ikke følger med og ser nøye på, kan seerne lett bli forvirret.

Å holde seg tilregnelig i AI-ens tidsalder

Bilder og videoer laget av AI er vanskelige å skille mellom, noe som utgjør en stor risiko for brukere, spesielt sårbare grupper som ikke er teknologikyndige. Ifølge Vu Thanh Thang – direktør for kunstig intelligens (CAIO) i SCS Cyber ​​Security Joint Stock Company, brukes AI av nettkriminelle i svindel (omgåelse av biometriske systemer, eKYC...), der de utgir seg for å være kjente personer for å spre falsk informasjon, noe som forårsaker forvirring for offentligheten. Det finnes mange tilfeller av høyteknologiske kriminelle som utnytter AI til å lage deepfake-bilder, utgi seg for å være slektninger for å foreta videosamtaler for å svindle penger.

Vu Thanh Thang – direktør for kunstig intelligens (CAIO) i SCS Cyber ​​Security Joint Stock Company – sa at vi har gått inn i en tid der alt kan forfalskes. Foto: NVCC

Ifølge Thang er bedrifter også potensielle mål for KI-kriminelle. De kan bruke KI-deepfake til å utgi seg for å være ansatte, omgå sikkerhetssystemer for å låse opp oppmøte og utgi seg for å være bedriftsledere for å ærekrenke og ødelegge omdømme.

Do Nhu Lam fra ABAII deler den samme oppfatningen og pekte på tre konsekvenser for individuelle brukere forårsaket av AI: økonomisk svindel, ærekrenkelse av omdømme og utnyttelse av privat informasjon. For bedrifter tapte selskapet Arup 25 millioner dollar etter at ansatte ved Hong Kong-avdelingen ble lurt til å delta i et deepfake-videomøte og overføre penger som forespurt.

Alt du trenger å vite om Veo 3, det nåværende AI-verktøyet for generering av virale videoer Googles nyeste AI-modell for videogenerering – Veo 3 – imponerer med sin evne til å lage realistisk synkronisert lyd med bilder.

En annen like alvorlig risiko er at når folk ikke kan skille mellom ekte og falskt, vil offentlig tillit til media og offisielle nyhetskilder bli svekket.

Lam viste til en rapport fra Reuters Institute i 2024 som viser at andelen globale brukere som stoler på nyheter på medieplattformer har falt til sitt laveste nivå på et tiår, hovedsakelig på grunn av fremveksten av deepfake-innhold.

Ifølge ekspert Vu Thanh Thang «lever vi i en tid der all informasjon kan forfalskes og ikke lenger er en 'risiko'.» Derfor er det nødvendig å øke bevisstheten og iverksette personlige beskyttelsestiltak, og lære om AI for å leve i fred .

De to ekspertene anbefaler at brukere alltid verifiserer og autentiserer informasjon før de tar avgjørelser; utstyrer seg med kunnskap for å identifisere falskt innhold; begrenser deling av personlig informasjon på nett; og rapporterer spredning av falskt innhold. «Bare ved å være proaktive og kunnskapsrike kan brukere virkelig beskytte seg selv og bidra til å bygge et tryggere cyberspace i den digitale tidsalderen», sa Lam.

«Gudfaren» Yoshua Bengio var bekymret for menneskehetens utryddelse på grunn av kunstig intelligens, og gjorde nettopp noe . «Gudfaren» AI-en Yoshua Bengio grunnla nettopp en ideell organisasjon med mål om å lage trygge kunstig intelligens-systemer, i stedet for å vise mennesker farlige personligheter.

Kilde: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html