FBI sier at kunstig intelligens brukes til «utpressing» og trakassering

I en advarsel som ble sendt ut denne uken, sa FBI at de nylig har observert en økning i utpressingsofre som sier at de har blitt målrettet ved å bruke AI til å redigere ellers normale bilder, hentet fra nettinnlegg, personlige meldinger eller videochatter , til falske versjoner.

Spansk politi arresterte en gang en programmerer som brukte kunstig intelligens til å lage falske bilder av barnepornografi. Foto: Daily Mail

«Bildene sendes deretter direkte til ofrene av gjerningsmennene for utpressing eller seksuell trakassering. Når de er distribuert, kan ofrene møte betydelige utfordringer med å forhindre fortsatt deling av det manipulerte innholdet, samt å fjerne det fra internett», heter det i advarselen.

Byrået sa at bildene virket «livlignende», samtidig som de bemerket at barn også hadde blitt målrettet i noen tilfeller.

I februar arresterte politiet i Spania en dataprogrammerer som brukte kunstig intelligens til å lage forferdelige bilder av barnemishandling, i det som antas å være en av de første arrestasjonene av sitt slag.

FBI gikk ikke i detalj om AI-programmene som brukes til å lage seksuelle bilder, men bemerket at teknologiske fremskritt «kontinuerlig forbedrer kvaliteten, tilpasningsmulighetene og tilgjengeligheten til AI-drevet innholdsproduksjon».

Å redigere vanlige bilder for å lage erotiske bilder er nesten like gammelt som fotografering i seg selv, men den nylige eksplosjonen av åpen kildekode-verktøy for kunstig intelligens har gjort prosessen enklere enn noensinne.

Falske bilder eller videoer er ofte umulige å skille fra virkelige versjoner, og flere nettsteder og sosiale nettverk dedikert til å lage og utveksle AI-drevne seksuelle bilder har til og med dukket opp de siste årene.

Dette regnes som en av en rekke risikoer som kunstig intelligens kan utgjøre for samfunnet, slik eksperter nylig har bekymret seg og advart om.

Hoang Anh (ifølge Daily Mail, Reuters)

Kilde: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html