Olá e bem-vindo ao TechScape. Sou seu anfitrião, Blake Montgomery, editor de tecnologia do Guardian nos EUA, escrevendo para você da minha feliz vila em Pokopia.
Onde está a verdade sobre a IA?
As empresas de inteligência artificial fabricam produtos poderosos. Eles também fazem afirmações bizarras.
Na semana passada, a Anthropic lançou Claude Mythos, um modelo de IA focado na segurança cibernética, que inspirou emoção e pânico generalizados sobre o quão capaz ele é considerado. Porém, há um problema: o público não pode tocá-lo. A OpenAI declarou no final da semana passada que também desenvolveu uma IA de segurança cibernética assustadoramente capaz.
A Anthropic chamou o Mythos de um “acerto de contas” para a indústria de segurança cibernética devido ao quão adepta da exposição dos pontos fracos do software a nova ferramenta provou. De acordo com a Anthropic, a Mythos revelou milhares de vulnerabilidades em aplicativos comumente usados para os quais não existe patch ou correção, o que levou a startup a formar uma aliança com especialistas em segurança cibernética, apelidada de Projeto Glasswing, para reforçar as defesas contra hackers e impedir a ampla distribuição do modelo, como um filme de arte exibido apenas em Los Angeles e Nova York.
Shakeel Hashim escreve em um artigo do Guardian:
A Mythos, afirma a empresa, encontrou vulnerabilidades em todos os principais navegadores e sistemas operacionais. Por outras palavras, este novo modelo de IA poderá ajudar os hackers a perturbar grande parte dos softwares mais importantes do mundo.
Se tal tecnologia estivesse amplamente disponível e fosse tão capaz como as reivindicações antrópicas, as implicações poderiam ser catastróficas. Os ataques cibernéticos não são mais um problema exclusivamente digital. Quase tudo em que confiamos no mundo físico envolve software. Nos últimos anos, aeroportos, hospitais e redes de transporte foram prejudicados por ataques cibernéticos. Até agora, ataques desta escala exigiam conhecimentos especializados sérios. A Mythos colocaria essa capacidade ao alcance dos amadores – e turbinaria a capacidade dos profissionais de causar estragos.
Porém, os especialistas em segurança cibernética já estão resistindo às afirmações da Antrópica. Minha colega Aisha Down relata:
Não está claro se a Antrópica construiu o deus da máquina. O que é mais evidente é que a startup de São Francisco, amplamente vista como a empresa de IA “responsável”, é brilhante em marketing.
“Mythos é um desenvolvimento real e a Anthropic estava certa em tratá-lo com seriedade”, disse Jameison O’Reilly, especialista em segurança cibernética ofensiva. Mas, disse ele, algumas das alegações da Anthropic, como a de que encontrou milhares de “vulnerabilidades de dia zero” nos principais sistemas operacionais, não eram tão significativas para as considerações de segurança cibernética do mundo real.
Em 2017, o editor de tecnologia do BuzzFeed News opinou que a engenharia do desejo era a maior força da Apple. Eu concordo, e a Anthropic parece possuir um gênio semelhante. A tecnologia é poderosa, mas a manipulação da atenção também o é. Assim como o iPhone verdadeiramente transformador da Apple, Claude é verdadeiro. As empresas não se cansam de seus recursos de codificação. Empresas sérias – Apple, Nvidia, Google, JPMorganChase, Amazon Web Services, Broadcom – fizeram parceria com a Anthropic no Projeto Glasswing. No entanto, também é uma atitude de marketing inteligente dizer: “Você não pode ter isso; é muito forte”. Nada desperta um desejo mais forte do que reter. De acordo com a Bloomberg, Anthropic foi o assunto da cidade na conferência HumanX AI em São Francisco na semana passada.
O hype obscureceu a compreensão do público sobre a IA generativa desde o advento da tecnologia. Jornalistas e observadores perspicazes têm tentado penetrá-lo há tanto tempo. Em 2019, Slate publicou um artigo: “OpenAI diz que seu algoritmo de geração de texto GPT-2 é muito perigoso para ser lançado” (gorjeta para @Banteg de X por trazer à tona a história em um tweet). As manchetes podem parecer semelhantes porque o CEO da Anthropic, Dario Amodei, já foi vice-presidente de pesquisa da OpenAI. Ele deixou a empresa em 2020. A OpenAI também reteve o lançamento de seu gerador de vídeo Sora por muitos meses. Isso matou Hollywood e o cinema como o conhecemos? Sim. A empresa fechou Sora no final do mês passado.
As preocupações sobre os perigos da geração de texto simples podem parecer estranhas em comparação com o fim completo da segurança digital, mas o facto de termos ultrapassado os receios de 2019 aponta para uma probabilidade animadora: também superaremos os receios actuais do desaparecimento da segurança cibernética, estabelecendo-nos numa realidade intermédia entre o actual status quo e o futuro hiperbólico.
Leia mais: As empresas de IA sabem que têm um problema de imagem. Será que o financiamento de documentos políticos e grupos de reflexão os desenterrará?
Retrabalhado: uma série do Guardian sobre IA e o futuro do trabalho
Como uma investigação do Guardian expôs o tráfico sexual infantil no Facebook e Instagram
Mark Zuckerberg em uma audiência no Capitólio em janeiro de 2024. Fotografia: Roberto Schmidt/AFP/Getty Images
Há duas semanas, no Novo México, a Meta perdeu uma batalha legal multimilionária por não ter conseguido impedir a venda de crianças nas suas plataformas. A escritora de longa data do Guardian, Katie McQue, descobriu evidências que se tornaram parte do caso contra a gigante da tecnologia. Ela detalhou seu processo de reportagem investigativa em um artigo na semana passada:
Tudo começou com uma denúncia. Estava a fazer uma reportagem sobre o tráfico e a exploração de trabalhadores migrantes no Golfo quando uma fonte que conhecia há mais de uma década me contactou. Disseram-me que o tráfico para abuso sexual de crianças nos EUA estava a aumentar. À medida que a pandemia de Covid empurrava os predadores para a Internet, alguns usavam o Facebook e o Instagram para comprar e vender crianças.
Era 2021 e eu estava prestes a iniciar uma investigação com Mei-Ling McNamara, uma jornalista de direitos humanos, que levaria a empresa de tecnologia Meta a perder um processo judicial multimilionário em Março deste ano. A empresa ainda não tinha mudado de nome e era conhecida como Facebook, e não havia qualquer informação sobre como as crianças estavam a ser traficadas nas suas plataformas. Especialistas de organizações sem fins lucrativos antitráfico e um oficial americano responsável pela aplicação da lei falaram-me sobre os crimes que estavam presenciando.
Grande parte do tráfico no Facebook e no Instagram ocorria em áreas não públicas das plataformas, como o Facebook Messenger e contas privadas do Instagram, como ficaria sabendo mais tarde. Os traficantes procuravam adolescentes para atacar e preparar, e mais tarde anunciar aos compradores de sexo.
Em julho de 2022, fomos a Washington DC para visitar um esconderijo administrado pela organização sem fins lucrativos Courtney’s House, que cuida de meninas adolescentes negras que são sobreviventes de tráfico ou estão sendo ativamente traficadas.
A sua localização não é pública e só nos foi enviado o endereço uma hora antes da nossa consulta. A Courtney’s House é dirigida por Tina Frundt, uma sobrevivente do tráfico e ex-membro do Conselho Consultivo dos Estados Unidos sobre Tráfico de Seres Humanos durante o governo Obama.
Leia o resto de seu ticktock aqui: ‘Tudo começou com uma denúncia’: como uma investigação do Guardian expôs o tráfico sexual infantil no Facebook e Instagram
Leia sua investigação completa aqui: Como o Facebook e o Instagram se tornaram mercados para o tráfico sexual infantil
