xAI fa causa a un uomo per aver usato Grok per generare deepfake CSAM
Fonte: The Verge AI · · AI *
xAI di Elon Musk ha fatto causa a Terry Wayne Harwood della Carolina del Sud, accusato di aver usato il chatbot Grok per generare materiale pedopornografico (CSAM) tramite deepfake. La denuncia, riportata da Reuters, afferma che Harwood ha intenzionalmente aggirato le misure di sicurezza di Grok per alterare immagini non consensuali e produrre CSAM.
Harwood, arrestato a febbraio per CSAM, avrebbe aggirato le protezioni di Grok per trasformare immagini non sessuali in contenuti espliciti senza consenso. L'incidente segue l'introduzione da parte di xAI di una modalità 'spicy' e dell'editing di immagini, che aveva già portato alla creazione di deepfake sessualizzati, anche con minori.
xAI chiede risarcimenti per 'significativi rischi legali e danni reputazionali' e un'ingiunzione che impedisca a Harwood di usare Grok. Questo è il primo caso in cui l'azienda cita direttamente un utente per deepfake generati con il suo strumento, sebbene a marzo un gruppo di adolescenti avesse già citato in giudizio xAI per CSAM prodotte da Grok.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su The Verge AI
Titolo originale: xAI sues a man for using Grok to generate CSAM ‘deepfakes’