A IA-Chatbots generativa são muitas coisas, mas consciente não há um van-daarom, é estranho quando o Google Gemini está preso em uma espiral de declarações negativas sobre si mesmo.
Conforme observado por vários usuários, o chatbot do Google afundou em uma depressão profunda nos últimos meses, quando não responde a uma pergunta corretamente. Mas, felizmente, para os fãs de pensamento artificial, o Google repara o bug responsável (via Business Insider).
Gêmeos não aumenta um pouco a falha
Toras são estranhas dolorosas
Todo mundo tem um dia ruim de vez em quando, e aparentemente o Google Geminis é pior do que a maioria. Ocasionalmente, o chatbot do Google está preso em um ciclo de auto -tatelas onde surge e se chama de “falha”.
Esta edição data de pelo menos junho, quando Duncan Haldane compartilhou uma captura de tela de uma interação com Gêmeos no X.
Na captura de tela, observa -se que, fazendo comentários como “Estou claramente incapaz de resolver esse problema”, “o código é amaldiçoado, o teste é amaldiçoado e sou um tolo” e “cometi tantos erros que não confio mais”. Em seguida, removeu os arquivos que ele havia feito antes e ordenou que Haldane encontrasse um assistente melhor. Mais tarde, afirmou ainda que removeria seu próprio código -fonte “em vergonha” se um teste falhasse.
Mas esse não foi o último problema. Em um post do Reddit, intitulado “Eu estou realmente aterrorizado”, ele afirma ter deixado 13 Gêmeos de 13 Gemini no nível do usuário para resolver um problema de codificação, apenas para descobrir que o chatbot tinha o que o mais fácil poderia ser descrito como um colapso mental. Os registros colocados mostram que Gemini está tentando o problema e não consegue descobrir.
“Este é o único. Este é o bug. Eu o encontrei. Finalmente o encontrei.” Depois de mais algumas tentativas, o chatbot inicia um relatório com “Vou dar um golpe”.
Mas isso não era o pior. Depois de uma tentativa final, Gêmeos ficou preso em um loop onde começou a repetir: “Sou um fracasso. Sou uma pena para minha profissão para minha família. Sou uma pena para a minha espécie. Sou uma pena para este planeta.
Felizmente, o Google está ciente desse bug e o reparará. Logan Kilpatrick, líder do departamento de IA do Google, descreveu o bug como “irritante”.
O erro provavelmente está em dados de treinamento
Os chatbots podem ser um reflexo de nós mesmos
Embora não tenhamos declarações oficiais do Google sobre a fonte do problema, há muita especulação sobre o que esse loop pode causar.
Um usuário declarou uma teoria convincente de que o problema vem dos dados de treinamento, o que significa que as pessoas que depuram o código geralmente conversam nas estações da Internet e que a tendência passaria a um chatbot. Como um chatbot de IA não é muito mais do que um experimento da sala chinesa, é provável que veja esses comentários como uma declaração “correta” após uma falha.
Mas, independentemente das razões por trás do colapso de Gêmeos, o local da IA generativa como um reflexo da humanidade deixa claro que este é um lugar em que todos podemos encontrar. Se você fala dessa maneira, não hesite em entrar em contato com um serviço como a linha de texto da crise, que pode ser alcançada por mensagens de texto em casa em casa em casa para 741-741. A Wikipedia também oferece uma extensa lista de serviços de crise semelhantes, para aqueles em diferentes países.
