Um novo relatório diz que os feeds de vídeo dos óculos inteligentes Meta Ray-Ban são enviados para revisão por anotadores de dados humanos no Quênia, e que as filmagens incluem conteúdo sensível que deveria ser excluído.
Denunciantes dizem que o vídeo visto por terceiros usados pela Meta inclui tudo, desde pessoas fazendo sexo até cartões bancários…
Os óculos inteligentes Meta Ray-Ban podem capturar vídeo de duas maneiras. Primeiro, você pode ativar a gravação de vídeo manualmente para capturar imagens do ponto de vista. Essa pode ser uma ótima maneira de registrar experiências com as mãos livres, como um passeio em uma montanha-russa, bem como incidentes que podem ocorrer ao dirigir ou andar de bicicleta.
Em segundo lugar, você pode usar o recurso de IA para fazer perguntas sobre tudo o que está vendo através dos óculos. É bem sabido que esse processamento de IA é feito nos servidores da Meta e, portanto, as imagens de vídeo precisam ser enviadas a eles para análise.
No entanto, um relatório do site sueco SVD diz que as imagens são enviadas para anotadores de dados humanos cujo trabalho é identificar manualmente os objetos vistos nesses clipes. Um funcionário de uma empresa terceirizada com sede no Quênia diz que essas filmagens às vezes incluem conteúdo muito delicado.
Os trabalhadores no Quénia dizem que é desconfortável ir trabalhar. Eles nos falam sobre videoclipes profundamente privados, que parecem vir diretamente dos lares ocidentais, de pessoas que usam óculos no dia a dia. Vários descrevem material de vídeo mostrando visitas ao banheiro, sexo e outros momentos íntimos (…)
“Alguém pode estar andando com os óculos, ou por acaso estava usando, e aí o companheiro da pessoa estava no banheiro, ou ela tinha acabado de sair nua”, diz um funcionário.
As circunstâncias em que estes vídeos sensíveis são capturados não são claras no relatório. Por exemplo, há referência a pessoas que usam óculos enquanto fazem sexo, o que parece ser um uso muito deliberado. No entanto, isso também parece indicar que as imagens de vídeo são enviadas para revisão mesmo quando alguém está gravando manualmente, em vez de usar o Meta AI.
Definitivamente, há uma falta de transparência sobre quais imagens são enviadas ao Meta ao usar a função AI. Por exemplo, se você olhar para um carro e pedir ao Meta para identificar a marca e o modelo, em que momento ele para de enviar imagens? São cinco segundos depois, 10 segundos, 30 segundos? É assim que a pergunta é respondida ou continua a gravação caso você faça mais perguntas?
Os próprios termos de uso da empresa são extremamente vagos.
Os termos afirmam que “em alguns casos, Meta revisará suas interações com IAs, incluindo o conteúdo de suas conversas ou mensagens para IAs, e essa revisão pode ser automatizada ou manual (humana)”.
O SVP diz que quando solicitou detalhes à Meta, a empresa simplesmente os encaminhou de volta aos Termos de Serviço e à Política de Privacidade.
Frustrantemente, o relatório diz que o site analisou o tráfego da rede para ver o que estava sendo enviado, mas depois não forneceu absolutamente nenhuma informação.
Quando analisamos o tráfego de rede do aplicativo, vemos que o telefone tem contato frequente com servidores Meta em Luleå, Suécia e Dinamarca.
Ex-funcionários da Meta dizem que dados confidenciais não devem ser enviados para revisão humana, mas isso depende da identificação algorítmica desses dados confidenciais, o que nem sempre é bem-sucedido.
A opinião de 9to5Mac
Eu mesmo uso os óculos. A novidade do recurso de IA desapareceu rapidamente, mas eles são uma maneira muito conveniente de gravar imagens POV com as mãos livres. Embora eu nunca os usasse para filmar algo sensível, ficaria muito indignado ao descobrir que o Meta está capturando gravações de vídeo manuais.
O relatório carece frustrantemente de informações concretas, mas acho que serve como um lembrete para usar qualquer serviço de IA com cautela quando se trata de dados confidenciais de qualquer tipo – ou de qualquer produto Meta.
Foto: 9to5Mac/Ray-Ban
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
