Den mörka sidan av artificiell intelligens-applikationer

Efter att startupföretaget OpenAI lanserade sin första AI-applikation, ChatGPT, i slutet av 2022, utlöstes en våg av konkurrens om att utveckla AI-applikationer, särskilt generativ AI, vilket medförde många bekvämligheter inom alla områden i livet. Detta medför dock också många risker.

Intrång i privatlivet

Under senare år har många organisationer och individer lidit förluster när cyberbrottslingar använt AI för att skapa videoklipp som förfalskade bilder och röster från riktiga människor. Ett exempel är Deepfake-tricket.

Enligt rapporten om identitetsbedrägerier som publicerades av Sumsub i slutet av november 2023 ökade antalet deepfake-bedrägerier globalt tiofaldigt under 2022–2023. Det är också den tidpunkt då tillämpningar av artificiell intelligens exploderade i världen .

Status Labs noterar att Deepfakes har haft en stor inverkan på kultur, integritet och personligt rykte. Mycket av nyheterna och uppmärksamheten kring Deepfakes har fokuserat på kändisporr, hämndporr, desinformation, falska nyheter, utpressning och bedrägerier. Till exempel blev ett amerikanskt energiföretag 2019 lurat på 243 000 dollar av en hackare som förfalskade bilden och rösten på företagets chefer och bad anställda att överföra pengar till partners.

Reuters rapporterade att omkring 500 000 Deepfake-videor och ljudklipp delades på sociala nätverk världen över år 2023. Förutom Deepfakes för skojs skull finns det knep som skapats av skurkar för att lura communityn. Enligt källor uppskattas det att Deepfake-bedrägerier världen över orsakade förluster på upp till 11 miljoner USD år 2022.

Många teknikexperter har varnat för de negativa effekterna av AI, inklusive immateriella rättigheter och äkthet, och vidare för tvister om immateriella rättigheter mellan "verk" skapade av AI. Till exempel ber en person en AI-applikation att rita en bild med ett visst tema, men en annan person ber AI att göra detsamma, vilket resulterar i målningar med många likheter.

Detta kommer mycket sannolikt att leda till tvister om äganderätt. Hittills har dock världen ännu inte fattat något beslut om upphovsrättserkännande för AI-genererat innehåll (erkännande av upphovsrätt för individer som beställer kreativ AI eller företag som utvecklar AI-applikationer).

En bild genererad av en AI-applikation

Svårt att skilja mellan äkta och falskt

Så kan AI-genererat innehåll göra intrång i upphovsrätten? Teknikmässigt syntetiseras AI-genererat innehåll av algoritmer från data som det har tränats på. Dessa databaser samlas in av utvecklare av AI-applikationer från många källor, främst från kunskapsbasen på internet. Många av dessa verk har upphovsrättsskyddats av sina ägare.

Den 27 december 2023 stämde The New York Times (USA) OpenAI (tillsammans med ChatGPT) och Microsoft och hävdade att miljontals av deras artiklar användes för att träna AI-chattrobotar och AI-plattformar för dessa två företag. Bevisen tyder på att det finns innehåll skapat av chattrobotar på användarnas begäran som är samma eller liknar innehållet i artiklarna. Denna tidning kan inte ignorera när deras "immateriella egendom" används av företag i vinstsyfte.

New York Times är den första stora amerikanska tidningen som väcker talan om upphovsrätt relaterad till AI. Det är möjligt att andra tidningar kommer att följa efter i framtiden, särskilt efter New York Times framgångar.

Tidigare ingick OpenAI ett licensavtal om upphovsrätt med nyhetsbyrån Associated Press i juli 2023 och Axel Springer – en tysk utgivare som äger två tidningar, Politico och Business Insider – i december 2023.

Skådespelerskan Sarah Silverman anslöt sig också till ett par stämningar i juli 2023, där hon anklagade Meta och OpenAI för att ha använt hennes memoarer som träningstext för AI-program. Många författare uttryckte också oro när det avslöjades att AI-system hade absorberat tiotusentals böcker i sina databaser, vilket ledde till stämningar från författare som Jonathan Franzen och John Grisham.

Samtidigt har fototjänsten Getty Images stämt ett AI-företag för att ha skapat bilder baserade på textmeddelanden på grund av obehörig användning av företagets upphovsrättsskyddade visuella material...

Användare kan stöta på upphovsrättsproblem när de "vårdslöst" använder "verk" som de har bett AI-verktyg att "skapa". Experter rekommenderar alltid att man endast använder AI-verktyg för att söka, samla in data och ge förslag för referensändamål.

Å andra sidan förvirrar AI-applikationer användare när de inte kan skilja mellan sanning och falskhet i ett visst innehåll. Förlag och tidningskontor kan bli förvirrade när de tar emot manuskript. Lärare har också svårt att veta om elevernas arbete använder AI eller inte.

Samhället måste nu vara mer vaksamt eftersom man inte vet vad som är äkta och vad som är fejk. Till exempel kommer det att vara svårt för gemene man att upptäcka om ett foto har "förtrollats" eller redigerats av AI.

Lagregler om AI-användning behövs

I väntan på applikationsverktyg som kan upptäcka AI-interventioner behöver förvaltningsmyndigheter snart ha tydliga och specifika rättsliga regler för användningen av denna teknik för att skapa privat innehåll. Rättsliga regler måste visa alla att innehåll och verk har intervenerats av AI, till exempel att lägga till en vattenstämpel som standard på bilder som har manipulerats av AI.

Källa: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm