FBI säger att AI används för "utpressning" och trakasserier

I en varning som cirkulerades denna vecka sa FBI att de nyligen har observerat en ökning av utpressningsoffer som säger att de har blivit måltavlor med hjälp av AI för att redigera annars normala bilder, tagna från onlineinlägg, personliga meddelanden eller videochattar , till falska versioner.

Spansk polis grep en gång en programmerare som använde AI för att skapa falska barnpornografibilder. Foto: Daily Mail

”Bilderna skickas sedan direkt till offren av förövarna för utpressning eller sexuella trakasserier. När de väl har distribuerats kan offren möta betydande utmaningar när det gäller att förhindra fortsatt delning av det manipulerade innehållet, samt att ta bort det från internet”, stod det i varningen.

Byrån sa att bilderna verkade "verklighetstrogna", samtidigt som de noterade att barn också hade blivit måltavlor i vissa fall.

I februari grep polisen i Spanien en datorprogrammerare som använde AI för att skapa fruktansvärda bilder på barnmisshandel, vilket tros vara ett av de första gripandena i sitt slag.

FBI gick inte in på detaljer om de AI-program som används för att skapa sexuella bilder, men noterade att tekniska framsteg "kontinuerligt förbättrar kvaliteten, anpassningsmöjligheterna och tillgängligheten för AI-driven innehållsskapande".

Att redigera vanliga foton för att skapa erotiska bilder är nästan lika gammalt som fotograferingen själv, men den senaste explosionen av AI-verktyg med öppen källkod har gjort processen enklare än någonsin.

Falska foton eller videor är ofta omöjliga att skilja från verkliga versioner, och flera webbplatser och sociala nätverk som är dedikerade till att skapa och utbyta AI-drivna sexuella bilder har till och med dykt upp under senare år.

Detta anses vara en av en rad risker som artificiell intelligens kan utgöra för samhället, vilket experter nyligen har oroat sig och varnat för.

Hoang Anh (enligt Daily Mail, Reuters)

Källa: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html