Eu não estava na CES e, para ser totalmente honesto, não estava prestando muita atenção ao programa.
Mas até eu vi Projeto Ava de Razor e a tempestade que se seguiu. Vi as opiniões e os comentários e concordo com alguns deles.
Sinto imediatamente a repulsa do vale misterioso, tenho a ideia de que eles são um pouco estranhos. Eles são um pouco constrangidos. Eles não são 100% para mim.
Mas só porque não são para mim, não significa que não sejam para ninguém.
Algumas pessoas realmente apreciarão o Projeto Ava, e muitas pessoas estão usando companheiros de IA para aliviar essa coceira social.
Mas isso levanta um problema maior para mim, e sinto que é um assunto sobre o qual as pessoas não estão falando.
Relacionado
O futuro da IA depende de se tornar um assistente digital, não apenas de truques de festa
Sou cético, mas esses recursos me conquistaram
Companheiros de IA deveriam poder existir
Crédito: Razer
Sei que relativamente poucas pessoas estão realmente defendendo esse ponto, mas vale a pena sublinhar exatamente por que os companheiros de IA deveriam poder existir.
Em última análise, existem pessoas que se beneficiariam em tê-los por perto. Existem pessoas solitárias que lutam para fazer amigos.
Talvez eles tenham ansiedade, e a natureza sem rosto da IA e a falta de pressão ajudem a facilitar sua experiência.
Talvez eles simplesmente tenham acabado em algum lugar de suas vidas onde estão sozinhos, sem culpa própria.
Seja qual for o motivo, uma “pessoa” de IA pode ajudar a preencher essa lacuna.
Crédito: Eufy
Você pode argumentar que não é “real”, mas eu diria que é real se ajudar. Os instintos da matilha humana são fortes.
Meu aspirador robô se chama Esther porque ela fica muito presa e nos incomoda com isso. Ela é Ester, a Pester.
Ela não está viva, ela não tem sentimentos, e eu sei disso. Mas isso não me impede de desejar-lhe um bom dia e dar-lhe um tapinha.
Por que eu faço isso? Porque, em algum nível, me sinto melhor fazendo isso.
Isso me dá uma sensação de conexão e eu gosto disso, embora conviva com outras pessoas com quem me conecto todos os dias. Essas conexões têm valor.
É por isso que é tão trágico que eles possam ser levados embora assim.
Seus amigos de IA podem ser levados embora a qualquer momento
Crédito: Takway.AI
Seus amigos IA não são reais, mesmo que as emoções que você sente por eles sejam. São criações efêmeras, uma nuvem de fumaça, um mero sussurro ao vento.
Eles são frágeis e podem ser retirados em um momento, sem o seu conhecimento ou aviso prévio.
Se um CEO decidir que sua empresa poderia economizar dinheiro desligando seu companheiro de IA, você pode ter certeza de que ele o fará. E seu amigo e companheiro irá embora, talvez para sempre.
Vimos isto acontecer repetidamente com vários serviços, desde videojogos a sistemas de aquecimento.
Se eles estiverem dispostos a transformar os termostatos das pessoas em tijolos, você pode ter certeza de que isso também acontecerá com seu amiguinho de IA. É, infelizmente, apenas uma questão de tempo.
E se eles não forem desligados, você ainda pode ter certeza de que foram corrigidos – o que traz seus próprios problemas.
Lembra-se de todas aquelas pessoas que perderam seus “maridos de IA” quando o ChatGPT-4 foi atualizado para o ChatGPT-5? As pessoas notaram que o software subjacente era diferente e notaram isso com dificuldade.
A questão aqui é que seu companheiro de IA pode mudar durante a noite, ou até mesmo ser desligado, sem que você possa fazer nada a respeito.
Se esses produtos estão sendo vendidos como acompanhantes, isso não parece ser permitido.
Para que estes sejam realmente vendidos como companheiros, é preciso haver proteção
Crédito: Razer
Não parece certo que as empresas sejam os árbitros finais de suas amizades.
As empresas, apesar do que diz a lei dos EUA, não são pessoas e não pensam como pessoas.
Uma pessoa contratada para ajudar em sua casa pode optar por ajudar um pouco mais do que o exigido pelo seu emprego. Caramba, eles podem se tornar amigos e visitá-lo mesmo após o término do emprego.
As empresas não fazem isso e, se depender delas, seus amigos de IA também não farão. No momento em que um companheiro de IA deixa de fazer sentido do ponto de vista económico, ele desaparece.
Você pode argumentar que as pessoas não deveriam depender de companheiros de IA, e talvez você esteja certo. Mas o mundo não é tão simples e as vidas são complicadas.
Às vezes as pessoas precisam de muletas, sejam físicas ou emocionais – e não devemos julgar as pessoas que se encontram nessa posição.
Crédito: Rawpixel
A auto-hospedagem de um modelo de IA pode ajudar a corrigir isso, mas é uma solução bastante técnica para a maioria das pessoas.
Em última análise, acredito que deveria haver maneiras de proteger esses companheiros de serem simplesmente removidos. E talvez o futuro encontre soluções.
Mas neste momento, preocupa-me o facto de estarmos a permitir que a IA simplesmente invada a vida das pessoas com poucas restrições.
A IA precisa agir com cautela no que diz respeito à vida das pessoas e, no momento, não vejo nenhuma indicação de que isso vá acontecer.
