Após a introdução, no ano passado, da proibição de aplicações de redes sociais para adolescentes, a Austrália está agora a reforçar os requisitos de verificação de idade para aplicações de IA. Aqui estão os detalhes.
Aplicativos de IA sob escrutínio sobre questões de saúde mental
No ano passado, a Austrália tornou-se o primeiro país a proibir aplicações de redes sociais para adolescentes, no que se tornou o primeiro esforço nacional para proteger a saúde mental dos jovens.
A medida seguiu-se à crescente preocupação global sobre o impacto das redes sociais na saúde mental dos jovens utilizadores, um debate que só se intensificou desde o lançamento de livros como The Anxious Generation, de Jonathan Haidt.
Agora, a partir de 9 de março, as plataformas de IA, incluindo serviços de empresas como a OpenAI, terão de cumprir uma série de requisitos concebidos para impedir que utilizadores com menos de 18 anos acedam a conteúdos de pornografia, violência extrema, automutilação ou distúrbios alimentares.
A medida também aborda preocupações sobre o uso excessivo de chatbots entre adolescentes, incluindo receios de que características de design emocionalmente manipulativas possam encorajar a dependência numa altura em que o impacto destas ferramentas permanece incerto:
A Austrália ainda não recebeu relatos de violência ou automutilação associada a chatbots, mas (eSafety) relatou ter sido informada sobre crianças de até 10 anos conversando com ferramentas interativas alimentadas por IA até seis horas por dia.
A eSafety estava “preocupada com o fato de as empresas de IA estarem aproveitando a manipulação emocional, o antropomorfismo e outras técnicas avançadas para atrair, atrair e consolidar os jovens no uso excessivo de chatbot”, disse o porta-voz.
Como parte das novas regras, a Reuters relata que as lojas de aplicativos e os mecanismos de pesquisa podem ser obrigados a bloquear o acesso a serviços de IA não compatíveis:
O regulador da Internet da Austrália disse que pode pressionar os mecanismos de busca e lojas de aplicativos a bloquearem serviços de inteligência artificial que não conseguem verificar a idade dos usuários, depois que uma análise da Reuters descobriu que mais da metade não havia tornado públicas quaisquer medidas para cumprir o prazo na próxima semana.
Quando a Reuters pediu comentários, a Apple se recusou a responder.
Ainda assim, a empresa tem implementado salvaguardas relacionadas com a idade nas suas plataformas para cumprir as leis de restrição de idade em todo o mundo, incluindo sistemas que dependem de sinais detectados automaticamente pelo dispositivo. A adoção dessas APIs, bem como a conformidade com os requisitos locais, permanecem, em última análise, responsabilidade dos desenvolvedores individuais.
Voltando à questão australiana, a Reuters também informou que a conformidade permanece limitada, com a maioria das 50 ferramentas de IA baseadas em texto mais populares não mostrando etapas claras para implementar a verificação de idade ou filtragem de conteúdo antes do prazo que se aproxima rapidamente.
Para ler o relatório completo da Reuters, siga este link.
Ofertas de acessórios na Amazon
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
