Apple minaccia di rimuovere Grok, l'app di Elon Musk, dall'App Store.

Sebbene non abbia risposto pubblicamente, Apple ha di fatto svolto un ruolo attivo nel costringere xAI a modificare il funzionamento di Grok.

Apple aveva precedentemente avvertito discretamente la società xAI di Elon Musk che avrebbe potuto rimuovere l'app Grok dall'App Store se non avesse rapidamente impedito al chatbot di generare immagini di nudo e deepfake esplicite.

Queste informazioni sono state rivelate in una lettera che Apple ha inviato ai senatori statunitensi e successivamente pubblicata dai media.

App Grok sull'App Store. Foto: PhoneArena

Secondo quanto riportato nella lettera, a gennaio Apple ha scoperto che Grok aveva violato le linee guida dell'App Store in materia di moderazione dei contenuti.

L'azienda ha richiesto a xAI di sviluppare uno specifico piano di controllo dei contenuti per prevenire la creazione di immagini offensive, in particolare immagini deepfake, senza consenso.

In precedenza, Grok si era trovato al centro di una forte ondata di critiche quando alcuni utenti della piattaforma X avevano condiviso numerose immagini di donne e persino di bambini che erano state modificate digitalmente in modo da risultare sessualmente suggestive, senza il loro consenso.

Molte di queste immagini sono create a partire da foto reali di persone, sollevando serie preoccupazioni in merito alla privacy e all'etica nell'uso dell'intelligenza artificiale.

L'incidente è diventato rapidamente un punto focale di controversia nella comunità tecnologica. Sebbene Apple non abbia risposto pubblicamente all'epoca, ha di fatto svolto un ruolo attivo nel costringere xAI a modificare i metodi operativi di Grok.

Durante lo scambio di messaggi, Apple avrebbe respinto la soluzione inizialmente proposta da xAI, giudicandola "non sufficientemente robusta". L'azienda ha avvertito che, senza ulteriori modifiche, l'app Grok sarebbe stata rimossa dall'App Store.

Grok, il film di Elon Musk, sta affrontando una vera e propria tempesta di critiche per i suoi contenuti sensibili.

Dopo diverse tornate di discussioni tese, xAI ha aggiornato il suo sistema di moderazione dei contenuti.

Apple alla fine ha approvato la nuova versione dell'app, dichiarando che i miglioramenti erano accettabili.

La situazione è ulteriormente degenerata quando i senatori statunitensi Ron Wyden, Ben Ray Luján ed Edward Markey hanno inviato una lettera chiedendo ad Apple e Google di rimuovere Grok, sostenendo che le immagini generate dall'app violavano le normative che vietano i contenuti offensivi e di sfruttamento.

I legislatori hanno inoltre sottolineato che la risposta di Apple rappresenterebbe una prova per la tesi di lunga data dell'azienda, secondo cui l'App Store è un ecosistema strettamente controllato e progettato per proteggere gli utenti.

Se Grok dovesse rimanere attivo e continuare a creare contenuti sensibili, potrebbe compromettere la reputazione di Apple sia pubblicamente che in caso di controversie legali.

In seguito all'annuncio, la piattaforma X ha pubblicato una dichiarazione in cui ribadisce il suo rigoroso divieto di creare deepfake pornografici senza consenso e di utilizzare l'intelligenza artificiale per "spogliare" persone reali.

L'azienda ha dichiarato di aver implementato numerose misure di sicurezza, tra cui il monitoraggio continuo, l'analisi in tempo reale dei tentativi di elusione, frequenti aggiornamenti dei modelli e l'applicazione di filtri di notifica.

Tuttavia, secondo l'ultima inchiesta di NBC News , sebbene il numero di immagini deepfake sensibili sia diminuito significativamente, Grok potrebbe ancora essere sfruttato per creare contenuti simili.

Sembra che alcuni utenti abbiano modificato il metodo di immissione dei comandi per aggirare i sistemi di censura.

La storia di Grok illustra la crescente sfida che le piattaforme tecnologiche devono affrontare nel controllo dei contenuti generati dall'intelligenza artificiale. Man mano che questi strumenti diventano più potenti, il confine tra creatività e abuso si fa incredibilmente labile.

(Secondo PhoneArena e MacRumors)

Due paesi vietano temporaneamente il chatbot Grok di Elon Musk : i governi indonesiano e malese hanno annunciato di aver bloccato temporaneamente l'accesso a Grok, un chatbot sviluppato da xAI di Elon Musk, a seguito della diffusione di immagini pornografiche.

Fonte: https://vietnamnet.vn/apple-doa-go-grok-cua-elon-musk-khoi-app-store-2507116.html