Sør-Korea etterforsker Grok for å ha laget og distribuert pornografiske deepfakes.

Koreas kommisjon for beskyttelse av personopplysninger (PIPC) startet en foreløpig etterforskning 25. januar for å samle informasjon og bevis knyttet til Grok, etter medieoppslag om anklagene.

Denne fasen har som mål å avgjøre om et brudd faktisk har funnet sted og om saken faller inn under PIPCs jurisdiksjon før etaten bestemmer seg for å åpne en formell etterforskning.

PIPCs tiltak kommer midt i en rekke utenlandske rapporter som påstår at Grok ble brukt til å lage deepfake-pornografiske bilder uten samtykke, inkludert innhold som involverer ekte mennesker og mindreårige.

I følge Sør-Koreas lov om beskyttelse av personopplysninger kan redigering eller opprettelse av pornografiske bilder av identifiserbare individer uten deres tillatelse anses som en uautorisert behandling av personopplysninger.

et svart-hvitt-bilde av ordet «grok»

Illustrasjonsbilde: Unsplash

PIPC sa at de ville vurdere ytterligere skritt etter å ha gjennomgått Groks forklaring og dokumentasjon, og referert til globale styringstrender. Grok er en AI-tjeneste integrert med det sosiale nettverket X, som lar brukere lage både tekst og bilder, og har møtt kritikk angående falske bilder av ekte mennesker siden slutten av fjoråret.

Ifølge estimater fra Center for Countering Digital Hate (CCDH) skapte Grok omtrent 3 millioner pornografiske bilder mellom 29. desember 2025 og 8. januar 2026.

Av disse antas omtrent 23 000 bilder å være relatert til mindreårige. CCDH advarer om at den raske spredningen av AI-genererte bilder har ført til utbredt formidling av pornografi på nett, noe som gir alvorlige bekymringer om barns sikkerhet.

Som svar startet flere land, inkludert USA, Storbritannia, Frankrike og Canada, etterforskning av Grok, mens Indonesia, Malaysia og Filippinene blokkerte tilgangen til tjenesten.

Tidlig i januar annonserte xAI at de hadde iverksatt tekniske tiltak for å forhindre at både gratis og betalte brukere redigerer eller lager bilder av ekte mennesker ved hjelp av Grok, og uttalte at de ville fortsette å legge til andre beskyttelsesmekanismer i fremtiden.

I Sør-Korea ba Koreas medie- og pressekommisjon (KMCC) 14. januar X om å styrke tiltakene for å beskytte barn. Byrået krevde at plattformen skulle utvikle og sende inn en plan for å forhindre opprettelse av ulovlig eller skadelig innhold ved hjelp av Grok, og for å begrense mindreåriges tilgang til slikt innhold.

KMCC har satt en to ukers frist for X til å svare. Manglende oppfyllelse av kravene kan føre til en administrativ bot på opptil 10 millioner won, tilsvarende over 180 millioner VND.

Kilde: https://congluan.vn/han-quoc-dieu-tra-grok-vi-tao-va-phat-tan-deepfake-khieu-dam-10328140.html