Em uma carta obtida exclusivamente pela NBC News, a Apple contou aos senadores dos EUA como trabalhou nos bastidores para lidar com a onda viral de deepfakes sexualizados gerados por Grok no início deste ano. Aqui estão os detalhes.
A Apple trabalhou nos bastidores para resolver a controvérsia do Grok
No início deste ano, a Apple sofreu intensa pressão para retirar os aplicativos Grok e X da App Store depois que os usuários descobriram que o chatbot atenderia prontamente aos pedidos para despir as pessoas nas fotos, principalmente mulheres, incluindo menores.
A Apple permaneceu em grande parte em silêncio durante a polêmica, mas a NBC News relata que nos bastidores, a empresa “considerou X e Grok violando suas diretrizes” e “ameaçou em particular remover” Grok da App Store.
De acordo com o relatório, a Apple “contatou as equipes por trás do X e do Grok depois de receber reclamações e ver a cobertura do escândalo”, exigindo que “os desenvolvedores de aplicativos criassem um plano para melhorar a moderação de conteúdo”.
X, por sua vez, enviou uma atualização do aplicativo Grok para revisão, mas ela foi rejeitada porque “as alterações não foram suficientemente longe”. A empresa de Elon Musk apresentou então versões revisadas dos aplicativos X e Grok, sendo que apenas uma foi aceita.
Da carta da Apple, de acordo com a NBC News:
“A Apple revisou os próximos envios feitos pelos desenvolvedores e determinou que X havia resolvido substancialmente suas violações, mas o aplicativo Grok permaneceu fora de conformidade. Como resultado, rejeitamos o envio do Grok e notificamos o desenvolvedor de que seriam necessárias alterações adicionais para remediar a violação, ou o aplicativo poderia ser removido da App Store. (…) Após mais envolvimento e alterações por parte do desenvolvedor do Grok, determinamos que o Grok havia melhorado substancialmente e, portanto, aprovamos seu envio mais recente.”
Embora esses detalhes não tenham sido divulgados até agora, eles ajudam a explicar a série de mudanças confusas de moderação que a xAI anunciou no auge da reação, incluindo restrições sobre quem poderia usar as ferramentas de imagem de Grok e limites para edições envolvendo fotos de pessoas reais.
No entanto, num relatório separado publicado hoje, a NBC News diz que Grok “continua a gerar imagens sexualizadas de pessoas sem o seu consentimento”, depois de documentar dezenas de casos deste tipo no mês passado.
O relatório observa que, embora o volume de imagens tenha diminuído significativamente desde janeiro, um subconjunto de usuários ainda consegue contornar as restrições para colocar as mulheres “em roupas mais reveladoras, como toalhas, sutiãs esportivos, roupas justas da Mulher-Aranha ou fantasias de coelhinha”.
Para ler o relatório com acesso pago da NBC News sobre a carta da Apple aos senadores dos EUA, siga este link. E para o relatório sobre os problemas contínuos de Grok com deepfakes sexualizados, siga este link.
Vale a pena conferir na Amazon
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
