Apple truer med at fjerne Elon Musks Grok fra App Store.

Selvom Apple ikke reagerede offentligt, spillede de faktisk en aktiv rolle i at tvinge xAI til at ændre Groks måde at operere på.

Apple havde tidligere stille og roligt advaret Elon Musks xAI-virksomhed om, at de muligvis ville fjerne Grok-appen fra App Store, hvis de ikke hurtigt stoppede chatbotten fra at generere seksuelt eksplicit nøgenhed og deepfake-billeder.

Disse oplysninger blev afsløret i et brev, som Apple sendte til amerikanske senatorer og efterfølgende offentliggjort af medierne.

Grok app i App Store. Foto: PhoneArena

Ifølge brevet opdagede Apple i januar, at Grok havde overtrådt App Stores retningslinjer for indholdsmoderering.

Virksomheden krævede, at xAI udviklede en specifik plan for indholdskontrol for at forhindre oprettelse af stødende billeder, især deepfake-billeder, uden samtykke.

Tidligere blev Grok mødt af en bølge af stærk kritik, da brugere på X-platformen delte adskillige billeder af kvinder og endda børn, der var blevet digitalt ændret til at være seksuelt suggestive uden deres samtykke.

Mange af disse billeder er skabt baseret på virkelige fotos af enkeltpersoner, hvilket rejser alvorlig bekymring om privatlivets fred og etik i forbindelse med brugen af ​​kunstig intelligens.

Hændelsen blev hurtigt et kontroversielt punkt i tech-miljøet. Selvom Apple ikke reagerede offentligt på det tidspunkt, spillede de faktisk en aktiv rolle i at tvinge xAI til at ændre Groks driftsmetoder.

Du vil måske også synes om

Data og AI: En kæmpe mulighed for ny vækst.Vietnam har en stor mulighed for at udvikle sin digitale økonomi og kunstig intelligens (AI). For at gribe denne mulighed er det nødvendigt samtidig at forbedre infrastruktur, data og institutioner.

Under udvekslingen afviste Apple angiveligt xAI's oprindelige foreslåede løsning og anså den for "ikke robust nok". Virksomheden advarede om, at Grok-appen ville blive fjernet fra App Store uden yderligere justeringer.

Elon Musks Grok står over for en 'ildstorm' af kritik for sit følsomme indhold.

Efter flere runder med anspændte diskussioner har xAI opdateret sit indholdsmodereringssystem.

Apple godkendte til sidst den nye version af appen og sagde, at forbedringerne var acceptable.

Situationen eskalerede yderligere, da de amerikanske senatorer Ron Wyden, Ben Ray Luján og Edward Markey sendte et brev med krav om, at Apple og Google fjernede Grok, med den begrundelse, at billederne genereret af appen overtrådte regler, der forbyder stødende og udnyttende indhold.

Lovgiverne understregede også, at Apples reaktion ville være en test af virksomhedens langvarige argument om, at App Store er et tæt kontrolleret økosystem designet til at beskytte brugerne.

Hvis Grok forbliver i live og fortsætter med at skabe følsomt indhold, kan det underminere Apples omdømme både offentligt og i juridiske tvister.

Efter annonceringen offentliggjorde platform X en erklæring, der bekræftede sit strenge forbud mod at skabe pornografiske deepfakes uden samtykke og bruge kunstig intelligens til at "afklæde" rigtige mennesker.

Virksomheden oplyste, at den har implementeret adskillige sikkerhedsforanstaltninger såsom løbende overvågning, realtidsanalyse af omgåelsesadfærd, hyppige modelopdateringer og anvendelse af promptfiltre.

Ifølge den seneste undersøgelse fra NBC News kan Grok dog stadig udnyttes til at skabe lignende indhold, selvom antallet af følsomme deepfake-billeder er faldet markant.

Du vil måske også synes om

Det britiske parlamentsmedlem sagsøger Elon Musks firma for angiveligt at være blevet 'klædt nøgen og tvunget til at have bikini på online'.Den 4. juni annoncerede det britiske parlamentsmedlem Jess Asato, at hun sagsøger Elon Musks xAI-virksomhed for krænkelser af privatlivets fred med påstand om, at deres chatbot Grok blev brugt til at lave falske billeder af hende.

Nogle brugere ser ud til at have ændret deres prompt input-metode for at omgå censurlag.

Groks historie illustrerer den voksende udfordring for teknologiplatforme med at kontrollere AI-genereret indhold. Efterhånden som værktøjerne bliver mere kraftfulde, bliver grænsen mellem kreativitet og misbrug utroligt sløret.

(Ifølge PhoneArena og MacRumors)

To lande forbyder midlertidigt Elon Musks Grok-chatbot : De indonesiske og malaysiske regeringer har annonceret, at de midlertidigt har blokeret adgangen til Grok, en chatbot udviklet af Elon Musks xAI, efter spredningen af ​​pornografiske billeder.

Kilde: https://vietnamnet.vn/apple-doa-go-grok-cua-elon-musk-khoi-app-store-2507116.html