A IA está em toda parte hoje em dia, e no Discord, isso fez com que vários milhares de pessoas perdessem o acesso ao aplicativo sem um bom motivo.
Em um tópico no X, o aplicativo de bate-papo centrado no jogador confirmou que cerca de 8.000 contas foram banidas nos últimos dois meses após postarem imagens totalmente inofensivas, como texturas de videogame. Isso aconteceu porque o Discord emprega um sistema de moderação de IA que confundiu as imagens com “material prejudicial”. Embora o tópico do Discord dissesse que “um membro de nossa equipe de confiança e segurança sempre analisa o conteúdo sinalizado antes de qualquer ação ser tomada”, milhares de pessoas perderam o acesso às suas contas desde maio devido a esse problema.
VEJA TAMBÉM:
Grupo Discord diz que acessou Claude Mythos adivinhando localização
Felizmente, o Discord também disse que está em processo de restauração das contas perdidas.
Velocidade da luz mashável
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
Por um lado, é fácil ver o que aconteceu aqui. Como apontou o TechCrunch, algumas das imagens postadas pelos usuários que levaram a proibições, como padrões de tabuleiro de xadrez, têm uma semelhança com táticas usadas por malfeitores para ocultar conteúdo de exploração infantil. É fácil racionalizar como uma ferramenta de moderação de IA veria isso e faria algo a respeito. Por outro lado, este é um exemplo claro de por que os humanos ainda precisam de estar envolvidos nestes processos, uma vez que o olho humano poderia ter discernido instantaneamente que as imagens em questão eram inofensivas.
Mas com a IA se tornando uma parte cada vez maior de nossas vidas cotidianas, esperamos que coisas como essa continuem acontecendo.
Tópicos
Aplicativos e software Inteligência Artificial