Os médicos e o NHS podem ser processados por desonestidade médica devido a erros cometidos por ferramentas de inteligência artificial utilizadas no diagnóstico de pacientes e na recomendação do seu tratamento, alertam os ministros.
De acordo com a lei tal como está, os médicos e os serviços de saúde podem ser responsabilizados por pacientes que sejam feridos ou morram, mesmo que tenha sido a IA quem cometeu os erros que resultaram no seu sofrimento.
A Sociedade de Proteção Médica, que representa os médicos acusados de irregularidades, afirma num relatório que os médicos podem tornar-se o “sumidouro de responsabilidades” – um alvo de ações judiciais clínicas – por erros cometidos pela IA, a menos que a lei seja revista.
O NHS está usando IA para cada vez mais finalidades, inclusive para analisar exames e raios-X, gerar resumos de conversas de médicos com pacientes e redigir cartas aos pacientes.
“A lei sempre se esforçou para acompanhar a mudança tecnológica. Mas com a IA, o ritmo da mudança é tão rápido que esta lacuna parece menos um passo e mais um abismo cada vez maior”, disse a Dra. Sarah Townley, vice-diretora médica do MPS.
Dando um exemplo de dano potencial causado por erros de IA, o MPS disse que a IA pode não detectar um tumor no pulmão de um paciente ao ler uma radiografia de seu tórax. Isso poderia resultar na morte do paciente porque a falsa garantia da IA significaria que nenhum tratamento seria administrado e o câncer poderia então se espalhar.
da mesma forma, um paciente pode precisar de cirurgia e tratamento em terapia intensiva para sangramento grave se uma IA recomendar erroneamente o aumento da dose de varfarina, um anticoagulante usado para tratar a doença cardíaca fibrilação atrial.
Nesses cenários, havia um risco real e significativo de que fosse apresentada uma reclamação contra um médico em relação ao uso de ferramentas de IA, afirmou o MPS. “De acordo com o actual quadro de responsabilidade do produto no Reino Unido, existe o risco de que nestes casos possam ser apresentadas reclamações de defesa clínica contra as vítimas e que estas sejam totalmente responsabilizadas”, alerta.
O órgão quer que o governo reclassifique as ferramentas e sistemas de IA como produtos, para que se enquadrem no âmbito da Lei de Protecção do Consumidor de 1987. Acredita que isso ajudaria os médicos e o NHS a evitar a responsabilidade pelos erros cometidos pela tecnologia.
Os médicos no Reino Unido estão cada vez mais preocupados com o fato de os médicos serem responsabilizados por erros da IA. A confiança do público na medicina pode cair se não forem tomadas medidas que responsabilizem os criadores e fabricantes de IA, temem.
“A inovação e a segurança dos pacientes devem avançar juntas. Se a IA está avançando na velocidade da Fórmula 1, então a legislação, a regulamentação e a governança não podem ser deixadas no pit lane”, disse o Dr. Ragit Varia, presidente eleito da Society for Acute Medicine. “Os médicos não devem ser vítimas de uma batata quente de responsabilidade quando as decisões são influenciadas por sistemas de IA desenvolvidos, fornecidos e implementados por terceiros sem a estrutura adequada. Devemos evitar a criação de um vácuo de responsabilização onde a responsabilidade pelos danos não é clara.”
A Resolução do NHS, que trata de reclamações injustas contra hospitais na Inglaterra, está elaborando diretrizes sobre a responsabilidade da IA, disse o Departamento de Saúde e Assistência Social. “Acolhemos com satisfação o relatório do MPS e iremos rever as suas recomendações para garantir que os pacientes continuem a receber os benefícios da IA nos cuidados de saúde com segurança e rapidez”, disse um porta-voz do DHSC.
Ahmed Binesmael, analista político sénior do thinktank Health Foundation, afirmou: “A nossa investigação mostra consistentemente que a confiança do público na IA depende não apenas da tecnologia em si, mas das salvaguardas e supervisão que a acompanham. À medida que a adopção da IA cresce em todo o NHS, garantir uma responsabilização clara e uma governação robusta será essencial para manter a confiança do público”.