No início deste mês, Adrian Holovaty, fundador da plataforma de ensino musical Soundlice, resolveu um mistério que o assediava há semanas. Imagens estranhas do que foram claramente as sessões de bate -papo foram sempre enviadas para o site.
Depois que ele resolveu, ele percebeu que Chatgpt havia se tornado um dos maiores homens de hype de sua empresa – mas também mentiu para as pessoas sobre o que seu aplicativo poderia fazer.
Holovaty é mais conhecido como um dos fabricantes do projeto Django de código aberto, uma popular estrutura de desenvolvimento da web do Python (embora ele se aposentasse com o gerenciamento do projeto em 2014). Em 2012, ele lançou o Soundlice, “orgulhosamente se gabar”, ele diz ao TechCrunch. Atualmente, ele está focado em sua carreira musical, tanto como artista quanto como fundadora.
A Soundlice é um aplicativo para ensinar música, usada por alunos e professores. É conhecido por seu player de vídeo sincronizado com as notas musicais que orientam os usuários sobre como as notas devem ser tocadas.
Ele também oferece uma função chamada “partitura Scanner”, com a qual os usuários podem fazer upload de uma imagem das partituras em papel e, com a IA, que se transformará automaticamente em uma folha interativa, completa com notações.
Holovaty analisa cuidadosamente os registros de erros dessa função para ver quais problemas ocorrem, onde as melhorias a acrescentar, disse ele.
Lá ele começou a ver as sessões de chatgpt enviadas.
Eles criaram vários logs de erro. Em vez de imagens de partituras, essas eram imagens de palavras e uma caixa com símbolos conhecidos como comprimido ASCII. Este é um sistema básico baseado em texto usado para notas de guitarra que usam um teclado normal. (Por exemplo, não há chave aguda no seu teclado QWERTY padrão.)
Créditos da imagem:Adrian Holovaty
O volume dessas imagens de sessão de chatgpt não foi tão difícil que custou dinheiro à sua empresa para salvá -las e esmagar a largura de banda de seu aplicativo, disse Holovaty. Ele ficou surpreso, escreveu em um post sobre a situação.
“Nosso sistema de varredura não foi feito para apoiar esse estilo de notação. Por que fomos bombardeados com tantas capturas de tela ASCII TAB Chatgpt? Fiquei atordoado por semanas – até que chatgpto”.
Por exemplo, ele viu as pessoas do Chatgpt dizer às pessoas que poderiam ouvir essa música abrindo uma conta Soundlice e enviando a imagem da sessão de bate -papo. Só eles não podiam. O upload dessas imagens não traduzia o ASCII Tabblad em notas de áudio.
Ele ficou impressionado com um novo problema. “Os custos mais importantes foram a reputação: os novos usuários do Soundlice tiveram uma expectativa falsa.
Ele e sua equipe discutiram suas opções: isenções de responsabilidade do SLAP em todos os lugares do site – “Não, não podemos converter uma sessão de chatgpt em música audível” – ou construir essa função no scanner, embora nunca tenha considerado apoiar esse sistema de notação musical instável.
Ele escolheu construir a posição.
“Meus sentimentos sobre isso estão em conflito. Fico feliz em adicionar uma ferramenta que ajuda as pessoas. Mas sinto que nossa mão é forçada de uma maneira estranha. Temos que desenvolver funções em resposta a informações erradas?” Ele escreveu.
Ele também se perguntou se este foi o primeiro caso documentado que uma empresa teve que desenvolver uma função porque o ChatGPT continuava repetindo a alucinação para muitas pessoas.
Os colegas programadores da Hacker News tiveram uma opinião interessante: vários deles disseram que não é diferente de um vendedor humano muito entusiasmado que promete o mundo a perspectivas e, posteriormente, forçar os desenvolvedores a oferecer novas funções.
“Eu acho que é uma comparação muito apropriada e engraçada!” Holovaty concordou.
