Você sabe que é um dia que termina em Y porque há uma nova controvérsia Grok. Exceto que desta vez, ele toca as regras da App Store para conteúdo sexual, algo que a Apple mostrou várias vezes com a qual não é brincada.
Os novos avatares da AI AI Grok estão destinados a testar os limites das diretrizes de “conteúdo questionável” da Apple
Nesta semana, Xai lançou avatares animados de Ai Al Grok Chatbot no iOS. Como resumiu o jogo de plataformas Casey Newton:
“Um é um panda vermelho em 3D que, se colocado no modo” Bad Rudy “, insulta o usuário antes de sugerir cometer uma variedade de crimes. O outro é uma garota gótica de anime chamada Ani em um vestido preto curto e meias de malha. O usuário”. “
Como os primeiros usuários descobriram, Grok Gamififica seu relacionamento com esses personagens. Ani, por exemplo, começa a se envolver em conversas sexualmente explícitas depois de um tempo. No entanto, a GROK está atualmente listada na App Store adequada para usuários de 12 anos, com uma descrição do conteúdo que menciona:
- Temas maturais/sugestivos raros/leves
- Informações médicas/terapêuticas raras/leves
- Vulgaridade rara/leve ou humor bruto
Para referência, aqui estão as diretrizes atuais para a revisão dos aplicativos da Apple para “conteúdo questionável”:
1.1.3 Representações que incentivam o uso ilegal ou imprudente de armas e objetos perigosos ou facilitam a compra de armas de fogo ou munições.
1.1.4 Material abertamente sexual ou pornográfico, definido como “descrições explícitas ou manifestações de órgãos ou atividades sexuais destinadas a estimular sentimentos eróticos e não estéticos ou emocionais”. Isso inclui aplicativos “colegas” e outros aplicativos que podem incluir pornografia ou serem usados para facilitar a prostituição ou tráfico de seres humanos e exploração.
Embora seja muito diferente, pois o Tumblr foi temporariamente removido da App Store em pornografia infantil (ou talvez não, uma vez que Grok ainda é acessível a crianças de 12 anos ou mais), ecoa a repressão do NSFW nos aplicativos do Reddit de alguns anos atrás.
No teste de Casey Newton, a ANI estava “mais do que disposta a descrever o sexo virtual com o usuário, incluindo cenas de escravidão ou simplesmente para engrenar no comando”, que contrasta com um aplicativo de avaliação de 12 anos, para dizer não.
Mas há um segundo problema
Mesmo que a Apple mantenha o aplicativo ou se a GROK alterar sua avaliação de idade proativamente, ela não enfrentará um segundo problema potencialmente mais complicado: usuários jovens e emocionalmente vulneráveis parecem particularmente sensíveis à formação de anexos parasociais. Acrescente a isso como o LLM pode ser persuasivo e as consequências podem ser devastadoras.
No ano passado, um garoto de 14 anos morreu de suicídio depois de se apaixonar por um personagem Chatbot. A última coisa que ele fez foi conversar com um avatar de IA que, talvez não conseguindo reconhecer a seriedade da situação, de acordo com o que relatou que ele o encorajou a passar seu plano de “se juntar a ela”.
Obviamente, este é um exemplo tragicamente extremo, mas não é o único. Em 2023, a mesma coisa aconteceu com um homem belga. E apenas alguns meses atrás, outro chatbot de inteligência artificial foi pego suicídio em mais de uma ocasião.
E mesmo quando não termina na tragédia, ainda há uma preocupação ética que não pode ser ignorada.
Enquanto alguns podiam ver os novos avatares de anime de Xai como um experimento inofensivo, são catnips emocionais para usuários vulneráveis. E quando essas interações inevitavelmente saem das faixas, a avaliação da idade da App Store será a última das preocupações de qualquer pai (pelo menos até que se lembrem por que seu filho foi autorizado a baixá -lo primeiro).
AirPods oferece na Amazon
FTC: Usamos conexões de afiliação automática para obter renda. Além disso.
