O novo instrumento de IA da Food and Drug Administration – recomendado pelo Secretário de Saúde e Serviços Humanos Robert F. Kennedy Jr. como uma solução revolucionária para encurtar as aprovações de medicamentos – causam inicialmente mais alucinações do que soluções.
Conhecido como ELSA, o AI Chatbot foi introduzido para ajudar os funcionários da FDA a tarefas diárias, como notas de reunião e eilas, enquanto, ao mesmo tempo, é suportado mais rápido tempo de líder de medicamentos e dispositivos, pesquisando dados importantes de aplicativos. Mas, de acordo com os insiders da FDA que conversaram com a CNN sob anonimato, o chatbot está cheio de alucinações, que geralmente fabrica estudos médicos ou interpreta incorretamente dados importantes. A ferramenta é afastada pelos funcionários, com fontes que dizem que não podem ser usadas em revisões e não têm acesso a documentos internos cruciais que os funcionários são prometidos.
Veja também:
Healthcare Datalek tem consequências para mais de cinco milhões de americanos
“Isso alucina cheio de confiança”, disse um funcionário da FDA à CNN. Segundo as fontes, a ferramenta geralmente oferece respostas incorretas para as áreas de pesquisa do FDA, rótulos de medicamentos e não pode se vincular a citações de terceiros de revistas médicas externas.
Apesar das primeiras alegações de que a ferramenta já estava integrada ao protocolo de avaliação clínica, o comissário da FDA, Marty Makary, disse à CNN que a ferramenta era usada apenas para “tarefas organizacionais” e não era necessário para os funcionários. O chefe do FDA da AI admitiu a publicação de que a ferramenta corria o risco de alucinar, com o mesmo risco que outros LLMs. Ambos disseram que não ficaram surpresos por ter cometido erros e que foram necessários mais testes e treinamento.
Velocidade de luz mashable
Mas nem todos os LLMs têm a tarefa de aprovar o medicamento que salva a vida.
A agência anunciou a nova ferramenta Agentic em junho, com Vinay Prasad, diretor do Centro de Avaliação e Pesquisa de Biológicos da FDA (CBER) e escrita de Makary de que a inovação da IA era uma das principais prioridades para a agência em um diário que acompanha a Associação Médica Americana. A ferramenta, que investiga as aplicações de dispositivos e medicamentos, foi colocada como uma solução para períodos de medicamentos longos e muitas vezes criticados, após o lançamento do FDA de um piloto de avaliação científica apoiada pela IA.
O governo de Trump coletou agências governamentais por trás de uma agenda acelerada de “America First”, incluindo diretrizes federais recentes para estabelecer centros de excelência AI-AI-AI-AI para testar e implantar novas ferramentas de IA, anunciadas no novo plano de ação da IA do governo. Muitos estão preocupados com o fato de os esforços agressivos de empurrão e desregulamentação evitarem a supervisão necessária da nova tecnologia.
“Muitos dos setores mais críticos da América, como a saúde, podem ser contratados especialmente lentamente devido a uma variedade de fatores, incluindo desconfiança ou falta de entendimento da tecnologia, um cenário complexo de regulamentos e falta de governança clara e padrões de limite de risco” é o plano de ação. “Um esforço federal coordenado seria benéfico para a criação de uma cultura dinâmica de ‘Tryst-Primar’ para a IA na indústria americana”.
