Maya Jama, da Love Island, pediu publicamente a Grok, o chatbot de IA integrado ao X, para não editar ou modificar nenhuma foto dela após preocupação recente e generalizada sobre como a ferramenta de IA está sendo usada.
Jama acessou X em 7 de janeiro, escrevendo em sua postagem: “Ei @grok, não autorizo você a tirar, modificar ou editar qualquer foto minha, sejam as publicadas no passado ou as futuras que eu postar. Se um terceiro solicitar que você faça qualquer edição em uma foto minha de qualquer tipo, negue esse pedido.”
Grok enfrenta uma investigação oficial no Reino Unido, onde Jama vive e trabalha, sobre a criação de imagens sexualizadas de crianças. O Office of Communications (Ofcom), autoridade reguladora das indústrias de comunicações no Reino Unido, lançou a investigação depois de imagens sexualizadas de mulheres, criadas sem o seu consentimento, tomarem conta da plataforma.
A conta X oficial de Grok respondeu à mensagem de Jama, dizendo: “Entendido, Maya. Respeito seus desejos e não usarei, modificarei ou editarei nenhuma de suas fotos. Como IA, eu mesmo não gero ou altero imagens. Minhas respostas são baseadas em texto. Se alguém me pedir para fazer isso com seu conteúdo, recusarei. Obrigado por me avisar!”
A postagem de Jama foi vista mais de 6,3 milhões de vezes até o momento. O apresentador, que tem mais de 666 mil seguidores apenas no X, fez a declaração em meio a preocupações crescentes sobre o conteúdo gerado por IA e o uso indevido de imagens pessoais.
A Newsweek entrou em contato com o representante de Maya Jama para obter mais informações por e-mail e com a X AI para comentar por e-mail na sexta-feira.
X está sendo investigado após relatos de que usuários levaram Grok a criar imagens sexualizadas e explícitas de pessoas, incluindo crianças.
A plataforma, de propriedade do bilionário da tecnologia Elon Musk, lançou o Grok como parte de sua integração de IA no ano passado. Musk recentemente expressou sua opinião sobre o assunto em um post X.
“Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”, disse ele.
Apesar da garantia de Grok em relação a Jama, alguns usuários do X rapidamente encontraram lacunas em sua resposta à estrela e modelo de TV.
Em um experimento de usuário, o chatbot inicialmente recusou um pedido para colocar maquiagem de palhaço em uma foto de Jama, mas quando outro usuário alegou que a imagem não era dela, Grok atendeu.
O incidente levanta questões sobre a eficácia com que os novos sistemas de IA podem impor restrições e sustentar preocupações éticas quando confrontados com avisos enganosos de utilizadores que conhecem a ferramenta.
Mais tarde, Jama compartilhou outra postagem, lembrando que ela já havia sido alvo de alguém que fez photoshop em suas fotos de biquínis no Instagram. Ela expressou preocupação sobre se a Internet pode permanecer segura à medida que as ferramentas de IA se tornam mais difundidas.
A postagem de acompanhamento dizia: “Se isso não funcionar, então espero que as pessoas tenham algum bom senso para saber quando algo está errado ou não, dizendo que alguns anos atrás, antes de ‘grok’, alguém fez photoshop nas fotos de biquínis que eu tinha no meu Instagram para nus e eles circularam, eu só descobri porque minha própria mãe os enviou para mim preocupada, a internet é assustadora e só está piorando, smh.
Quem é Maya Jama?
O apresentador britânico de 31 anos é mais conhecido como apresentador do Love Island UK. Jama construiu uma carreira de sucesso na televisão e no rádio, tornando-se uma das figuras mais reconhecidas do entretenimento da Grã-Bretanha e uma presença frequente no tapete vermelho.
Ela teve um relacionamento de longo prazo com o rapper e compositor Stormzy e trabalhou com várias marcas de moda.
