Um sócio do prestigioso escritório de advocacia Sullivan & Cromwell de Wall Street apresentou um pedido formal de desculpas a um juiz federal de falências depois de descobrir que um processo judicial continha inúmeras citações legais fabricadas e outros erros gerados pela IA.
O Business Insider relata que um sócio sênior da Sullivan & Cromwell enviou uma carta na semana passada ao juiz-chefe Martin Glenn em Manhattan, reconhecendo que um processo anterior apresentado pela empresa continha citações imprecisas e o que ele descreveu como alucinações de IA. O pedido foi feito em nome da Prince Global Holdings, a empresa falida que Sullivan & Cromwell representou no caso.
Na sua carta, Andrew Dietderich, co-diretor de Finanças Globais e Reestruturação da Sullivan & Cromwell, explicou a natureza do problema. “’Alucinações’ são casos em que ferramentas de inteligência artificial fabricam citações de casos, citam autoridades incorretamente ou geram fontes legais inexistentes”, escreveu ele. “Lamentamos profundamente que isso tenha ocorrido.”
A carta incluía um gráfico que detalhava os problemas específicos da moção. O documento continha nomes e números de casos incorretos, juntamente com citações que pareciam ter sido completamente fabricadas, em vez de retiradas de precedentes legais reais. Esses erros representaram uma violação significativa dos padrões esperados nas petições dos tribunais federais, onde a precisão na citação da autoridade legal é fundamental para o processo judicial.
Os erros não foram detectados internamente pela Sullivan & Cromwell, mas foram identificados pelos advogados da Boies Schiller Flexner, o escritório de advocacia que representa os credores no caso de falência. Dietderich observou que agradeceu à empresa oponente por identificar os erros e pediu desculpas pelo descuido.
Sullivan & Cromwell, fundada há 140 anos, emprega mais de 1.000 advogados e está entre os escritórios de advocacia mais proeminentes de Wall Street. Segundo Dietderich, a empresa mantém políticas abrangentes que regem o uso de inteligência artificial no trabalho jurídico e estabeleceu salvaguardas especificamente concebidas para evitar que exatamente este tipo de erro chegue aos tribunais. No entanto, ele reconheceu que estes procedimentos não foram seguidos neste caso, e o processo de revisão da empresa para citações também não conseguiu detectar o material fabricado antes da submissão.
Breitbart News relatou anteriormente que o chefe de outro escritório de advocacia recentemente atingido por alucinações de IA, Morgan & Morgan, chamou a ameaça da IA à profissão jurídica de “nauseantemente assustadora” em uma carta à sua enorme empresa:
Numa carta interna partilhada num processo judicial, o diretor de transformação da Morgan & Morgan alertou os mais de 1.000 advogados da empresa que citar casos falsos gerados por IA em documentos judiciais poderia levar a consequências graves, incluindo potencial rescisão. Este aviso surge depois de um dos principais advogados da empresa, Rudwin Ayala, citar oito casos num processo contra o Walmart que mais tarde se descobriu terem sido gerados pelo ChatGPT, um chatbot de IA.
O incidente levantou preocupações sobre a utilização crescente de ferramentas de IA na profissão jurídica e os riscos potenciais associados à dependência destas ferramentas sem a devida verificação. Os advogados do Walmart pedem ao tribunal que considere sanções contra a Morgan & Morgan, argumentando que os casos citados “aparentemente não existem em nenhum outro lugar senão no mundo da Inteligência Artificial”.
Enquanto os escritórios de advocacia lutam com processos judiciais repletos de citações de casos falsos e citações fictícias, a América como um todo está a acordar para o facto de que a IA representa tanto uma grande oportunidade como um grande perigo para o nosso país e cultura. O diretor de mídia social do Breitbart News, Wynton Hall, escreveu seu best-seller instantâneo Código Vermelho: A Esquerda, a Direita, a China e a Corrida para Controlar a IA para servir como guia definitivo sobre como o movimento MAGA pode criar posições sobre IA que beneficiem a humanidade sem entregar o controle de nossa nação aos esquerdistas do Vale do Silício ou permitir que os chineses dominem o mundo.
Leia mais no Business Insider aqui.
Lucas Nolan é repórter do Breitbart News que cobre questões de IA, liberdade de expressão e censura online.
