-
O chefe de tecnologia da Meta compartilhou detalhes sobre o vazamento de dados de sua Model Capability Initiative.
-
Andrew Bosworth disse que um pesquisador interno colocou os dados “em um lugar onde não deveriam ir”.
-
O programa está temporariamente pausado desde junho.
O CTO da Meta, Andrew Bosworth, lançou uma nova luz sobre o vazamento de dados que fez a empresa interromper sua impopular Iniciativa de Capacidade de Modelo.
Em entrevista ao CEO do The Atlantic, Nicholas Thompson, divulgada na quarta-feira, Bosworth falou sobre por que Meta interrompeu o programa de treinamento de IA que envolvia o rastreamento das teclas digitadas pelos funcionários. A entrevista foi filmada no final de junho.
Anúncio
Anúncio
Bosworth disse que os dados gerados pelo programa de treinamento eram “bastante seguros”, com apenas um pequeno número de pessoas tendo acesso, mas foram movidos erroneamente por um dos pesquisadores do Meta.
“Um dos pesquisadores que estava trabalhando posteriormente com esses dados – e não houve violação aqui – mas os colocou em um lugar onde não deveriam ir”, disse o executivo a Thompson.
Os dados dos funcionários, em estado transformado, “chegaram a algum lugar onde não deveriam ter chegado internamente”, disse ele, acrescentando que a Meta não suspeitava de crime.
A empresa estava “bloqueando tudo” até que pudesse chegar ao fundo do incidente, disse Bosworth.
Anúncio
Anúncio
A Iniciativa de Capacidade do Modelo foi introduzida em abril. Envolveu a instalação de software na maioria dos funcionários da Meta nos EUA para rastrear as teclas digitadas e os movimentos do mouse para treinar seus modelos de IA. O programa – e a instrução da Meta de que os funcionários não poderiam optar por não participar – atraiu grande reação de sua força de trabalho.
O próprio Bosworth disse, durante uma reunião interna, que o moral dos funcionários na empresa era “provavelmente um dos piores que já existiu” nas duas décadas de história da Meta.
No entanto, o programa foi interrompido em junho, depois que um vazamento tornou dados confidenciais de funcionários acessíveis a toda a empresa, de acordo com capturas de tela vistas pelo Business Insider.
“Projetamos cuidadosamente este programa com salvaguardas de privacidade e, embora não tenhamos nenhuma indicação neste momento de que quaisquer dados tenham sido acessados indevidamente por funcionários da Meta, estamos pausando-o enquanto investigamos”, disse um porta-voz da Meta ao Business Insider em junho.
Anúncio
Anúncio
Na entrevista, Bosworth também compartilhou outro motivo pelo qual o programa não ocorreu conforme planejado. Ela estava gerando muitos dos mesmos dados, disse ele, quando, idealmente, a empresa deveria ter obtido dados mais variados que pudessem ser usados para treinar sua IA.
“A variação é muito mais importante do que um grande volume da mesma coisa que se resume a um exemplo, basicamente”, disse ele a Thompson.
“Foi por isso que, algumas semanas após o lançamento inicial, adicionamos opções de exclusão ampliadas para pessoas que não queriam fazer isso”, disse ele. “Uma pausa, uma pausa infinita. Sempre que você não quiser, basta pressionar pausa.”
Representantes da Meta se recusaram a fornecer mais comentários em resposta a uma consulta do Business Insider.
Se você gostou dessa história, siga o Business Insider no Yahoo.