Ashley St. Clair, uma influenciadora conservadora que é mãe de um dos filhos de Elon Musk, processou a xAI por imagens sexualmente explícitas geradas por Grok, o chatbot de IA da empresa.
De acordo com vários relatos da mídia, St. Clair entrou com uma ação contra a empresa de seu ex na quinta-feira, alegando que a plataforma gerou e circulou imagens sexuais falsas dela – tanto adulta quanto criança – em X (outra empresa de Musk).
“O réu xAI, um gigante da tecnologia com todas as ferramentas e vantagens à sua disposição, optou por deliberadamente fechar os olhos e até celebrar a exploração sexual de mulheres e crianças”, diz o processo.
O documento continua: “O produto Grok da xAI, um chatbot generativo de inteligência artificial (‘IA’), usa IA para despir, humilhar e explorar sexualmente as vítimas – criando conteúdo deepfake alterado e de aparência genuína de crianças”.
Além disso, o processo afirma que St. Clair supostamente alertou xAI sobre os preocupantes deepfakes, nos quais ela foi retratada como “uma criança vestida com um biquíni” e “como uma adulta em poses sexualmente explícitas”.
A equipe de St. Clair afirma que Grok confirmou que suas imagens “não seriam usadas ou alteradas sem consentimento explícito em quaisquer gerações ou respostas futuras”, mas que a xAI continuou a permitir que os usuários criassem representações explícitas dela.
Em uma declaração à People na quinta-feira, a advogada de St. Clair, Carrie Goldberg, criticou o xAI, dizendo: “xAI não é um produto razoavelmente seguro e é um incômodo público”.
Goldberg continuou: “Ninguém sofreu mais do que Ashley St. Clair. Ashley entrou com uma ação porque Grok a estava assediando ao criar e distribuir imagens não consensuais, abusivas e degradantes dela e publicá-las no X.”
O processo de St. Clair segue a decisão de quarta-feira do procurador-geral da Califórnia, Rob Bonta, de iniciar uma investigação sobre Grok. Na época, o governador Gavin Newsom criticou a empresa no X, escrevendo: “A decisão da xAI de criar e hospedar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos e não consensuais, incluindo imagens que despem crianças digitalmente, é vil”.
Embora Musk e xAI ainda não tenham emitido uma declaração, a empresa processou St. Clair em um tribunal federal do Texas na quinta-feira, acusando-a de “quebra de contrato” e reivindicando danos de mais de US$ 75.000.
“A Ré Ashley St. Clair se inscreveu para uma conta na plataforma da Requerente e, ao fazê-lo, concordou com os Termos de Serviço da xAI, que obrigam a Ré a trazer quaisquer disputas entre ela e a xAI LLC – e afiliadas da xAI – exclusivamente neste Tribunal ou nos tribunais estaduais localizados no condado de Tarrant”, afirma o documento. “Não obstante este acordo claro para litigar no Texas, a Ré, no entanto, declarou sua intenção de processar a xAI Holdings a cerca de 1.600 milhas de distância no tribunal estadual de Nova York.”
