A Associação Nacional de Procuradores-Gerais emitiu uma carta a 13 empresas de tecnologia, incluindo a Apple, apelando a ações mais fortes e salvaguardas contra os danos que a IA pode causar, e tem causado, “especialmente às populações vulneráveis”. Aqui estão os detalhes.
Os AGs querem que os resultados bajuladores e delirantes sejam abordados
Em um documento de 12 páginas (que, para ser justo, tem quatro páginas completas de assinaturas) endereçado à Apple, Anthropic, Chai AI, Character Technologies (Character.AI), Google, Luka Inc. (Replika), Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI, os procuradores-gerais de 42 estados dos EUA manifestaram o que definiram como:
(S)sérias preocupações sobre o aumento de resultados bajuladores e delirantes para os usuários provenientes do software generativo de inteligência artificial promovido e distribuído por suas empresas, bem como os relatórios cada vez mais perturbadores de interações de IA com crianças que indicam a necessidade de segurança infantil e salvaguardas operacionais muito mais fortes
Juntas, dizem eles, estas ameaças exigem acção, uma vez que algumas delas têm sido associadas a violência e danos na vida real. Isso inclui assassinatos e suicídios, violência doméstica e incidentes de envenenamento e hospitalizações por psicose.
Na carta, chegam ao ponto de alegar que algumas das empresas abordadas podem já ter violado leis estatais, incluindo estatutos de protecção do consumidor, requisitos para alertar os utilizadores sobre riscos, leis de privacidade online de crianças e, em alguns casos, até estatutos criminais.
Casos preocupantes parecem estar piorando
Nos últimos anos, muitos desses casos foram amplamente divulgados, incluindo o de Allan Brooks, um canadense de 47 anos que, após repetidas interações com ChatGPT, se convenceu de ter descoberto um novo tipo de matemática, e o de Sewell Setzer III, de 14 anos, cuja morte por suicídio é objeto de um processo em andamento alegando que um chatbot Character.AI o encorajou a “se juntar a ela”.
Embora estes sejam apenas dois exemplos, há muitos mais citados na carta, que também afirma que a sua lista não é de forma alguma abrangente o suficiente para ilustrar o potencial de danos que os modelos generativos de IA têm sobre “crianças, idosos e pessoas com doenças mentais – e pessoas sem vulnerabilidades anteriores”.
Eles também mencionam o que chamam de interações “preocupantes” entre chatbots de IA e crianças, incluindo bots com personas adultas que buscam relacionamentos românticos com menores, incentivando o uso de drogas e a violência, atacando a auto-estima das crianças, aconselhando-as a parar de tomar medicamentos prescritos e instruindo-as a manter essas interações em segredo dos pais.
Na carta, eles instam as empresas a tomarem uma série de medidas adicionais de segurança, incluindo:
- Desenvolver e aplicar políticas para prevenir resultados bajuladores e delirantes.
- Realização de testes de segurança rigorosos antes de lançar modelos de IA.
- Adicionar avisos claros e persistentes sobre resultados potencialmente prejudiciais.
- Separando a otimização de receitas das decisões de segurança.
- Designar executivos responsáveis pelos resultados de segurança da IA.
- Permitir auditorias independentes e avaliações de impacto na segurança infantil.
- Publicação de registros de incidentes e cronogramas de resposta para resultados prejudiciais.
- Notificar usuários que foram expostos a conteúdo perigoso ou enganoso.
- Garantir que os chatbots não possam gerar resultados ilegais ou prejudiciais para as crianças.
- Implementar salvaguardas adequadas à idade para limitar a exposição de menores a conteúdos violentos ou sexuais.
Pedem também às empresas que confirmem o seu compromisso com a implementação destas e outras salvaguardas até 16 de janeiro de 2026, e agendem reuniões com os seus escritórios para discutir mais aprofundadamente as questões. Estaremos atentos para saber se ou como a Apple responderá.
A carta foi assinada pelos procuradores-gerais do Alabama, Alasca, Samoa Americana, Arkansas, Colorado, Connecticut, Delaware, Distrito de Columbia, Flórida, Havaí, Idaho, Illinois, Iowa, Kentucky, Louisiana, Maryland, Massachusetts, Michigan, Minnesota, Mississippi, Missouri, Montana, New Hampshire, Nova Jersey, Novo México, Nova York, Dakota do Norte, Ohio, Oklahoma, Oregon, Pensilvânia, Porto Rico, Rhode Island, Carolina do Sul, Utah, Vermont, Ilhas Virgens dos EUA, Virgínia, Washington, Virgínia Ocidental e Wyoming, e você pode lê-lo na íntegra aqui.
Ofertas de acessórios na Amazon
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
