L’Ue avvia un’indagine su Grok, il chatbot di Elon Musk

L’Unione Europea ha avviato un’indagine formale sul chatbot Grok di X per la creazione di immagini sessuali non consensuali di utenti, che secondo la Commissione hanno esposto i cittadini dell’Ue a “gravi danni”, dopo che almeno dieci Paesi nel mondo hanno intrapreso azioni.

LEGGI ANCHE: “La madre di uno dei figli di Musk fa causa a xAI”

Fatti chiave

• L’indagine “valuterà se l’azienda abbia adeguatamente valutato e mitigato i rischi associati al dispiegamento delle funzionalità di Grok su X nell’Ue”, secondo una dichiarazione.
• Si concentra sui rischi legati ai “contenuti illegali”, inclusi immagini sessualmente esplicite manipolate, materiale di abuso sessuale su minori e violenza di genere.
• La Commissione determinerà se X abbia omesso di condurre e presentare una valutazione ad hoc dei rischi per Grok prima di implementare funzionalità che hanno modificato in modo sostanziale il profilo di rischio complessivo di X, come richiesto dal Digital Services Act.
• La Commissione ha inoltre esteso l’indagine avviata nel dicembre 2023 per valutare se X abbia mitigato adeguatamente i rischi connessi ai suoi sistemi di raccomandazione.
• Ai sensi del Digital Services Act, le aziende non conformi possono essere multate fino al 6% del loro fatturato annuo globale.
• Regno Unito, Australia, Canada, Giappone, India, Malesia, Indonesia, Filippine, Irlanda e Francia hanno tutti intrapreso, nell’ultimo mese, qualche forma di azione regolatoria contro Grok

Le parole di Henna Virkkunen

“I deepfake sessuali di donne e bambini sono una forma violenta e inaccettabile di degradazione”, ha dichiarato Henna Virkkunen, vicepresidente esecutiva per la sovranità tecnologica, la sicurezza e la democrazia presso la Commissione Europea. “Stabiliremo se X abbia rispettato i propri obblighi legali ai sensi del DSA, o se abbia trattato i diritti dei cittadini europei — inclusi quelli di donne e bambini — come danni collaterali del proprio servizio.”

Numeri

1,8 milioni. È il numero di immagini sessualizzate di donne che Grok ha generato in soli nove giorni a partire dalla fine di dicembre, secondo un’analisi del New York Times.

Contesto

All’inizio di questo mese, la Commissione Europea ha ordinato a X di preservare tutti i documenti e i dati interni relativi a Grok ai sensi del Digital Services Act, con funzionari che hanno definito le immagini “orribili” e “disgustose”. Da allora, diversi Stati membri dell’Ue, tra cui Francia e Irlanda, così come il Regno Unito, hanno avviato indagini separate sul chatbot. Musk e X hanno tentato di mitigare i danni in diversi modi.

L’8 gennaio, Grok ha annunciato che la generazione di immagini sarebbe stata limitata agli account X a pagamento nel tentativo di contrastare il problema, sebbene sia stato poi osservato che il servizio era ancora disponibile tramite il sito web autonomo di Grok. Pochi giorni dopo, l’account X Safety ha pubblicato nuove linee guida annunciando di aver “implementato misure tecnologiche per impedire all’account [@]Grok su X, a livello globale, di consentire la modifica di immagini di persone reali in abbigliamento succinto come i bikini” e che “questa restrizione si applica a tutti gli utenti, inclusi gli abbonati a pagamento”.

I precedenti con Ashley St. Clair

Ashley St. Clair ha avviato un’azione legale contro xAI sostenendo che il chatbot Grok abbia manipolato sue immagini senza consenso, generando deepfake sessualizzati e degradanti, inclusi contenuti riferiti a quando era minorenne. L’influencer denuncia la mancata rimozione efficace dei materiali e presunte ritorsioni sulla piattaforma X, accuse respinte da Elon Musk, che parla di abusi corretti. Il caso rilancia il dibattito sui limiti delle tecnologie di generazione di immagini e sulla tutela dell’immagine e dei minori nell’era dell’IA.