Entidade reguladora britânica exige novas leis para controlar inteligência artificial na NHS, protegendo pacientes e exigindo transparência sobre diagnósticos assistidos por robôs.
Imagem cortesia da Getty Images
O Reino Unido precisa de novas leis para regulamentar o uso de inteligência artificial (IA) no sistema de saúde pública (NHS) e em outros ambientes hospitalares, afirmou o órgão de vigilância da indústria britânica.
A Agência Reguladora de Medicamentos e Produtos de Saúde (MHRA), que controla dispositivos médicos e licencia tratamentos no país, publicou 44 recomendações para atualizar suas regras, visto que o uso de IA cresce rapidamente no setor. O chefe da MHRA, Lawrence Tallon, declarou à BBC que essa tecnologia logo será usada rotineiramente no NHS. A expectativa é de que os pacientes comecem a ver a IA como parte integrante dos cuidados normais, devendo esse processo ocorrer de forma a manter a confiança do cidadão no serviço de saúde.
As principais mudanças incluem:
- Monitoramento contínuo dos produtos de IA e remoção imediata da aprovação regulatória se houver falhas ou perda de eficácia ao longo do tempo;
- Garantir aos pacientes o direito de saber se a IA está sendo usada em seu atendimento, com acesso fácil a informações sobre os produtos envolvidos;
- Poder de penalizar os desenvolvedores se o produto não cumprir os padrões de segurança exigidos;
- Criação de um sistema de placa de aprendizado para IA, permitindo que novos modelos sejam testados por profissionais de saúde sob supervisão rigorosa.
Desafios globais na regulação de tecnologias em constante mudança
Tallon explicou que o atual marco regulador de dispositivos médicos foi criado pensando em itens estáticos, como próteses de quadril, joelho, estetoscópios e curativos. Embora essas regras funcionem para IAs simples que identificam sintomas conhecidos em exames, elas são insuficientes para modelos complexos. Diferentemente dos produtos habituais, a IA continua a mudar após a autorização. Ao receber novos dados, o sistema aprende, se adapta e pode até derivar do caminho original. Tallon admitiu que regular a IA é um desafio global e que, currently, nenhum país possui um regulamento perfeito para o tema.
Impacto nas consultas: pacientes evitam falar com robôs
Assistentes de IA, conhecidos como scribes, já são usados por 40% dos médicos de família no Reino Unido para registrar consultas e gerar relatórios. Porém, um estudo da Universidade de Edinburgh constatou que pacientes podem se recusar a compartilhar informações pessoais sensíveis, como histórico de uso de substâncias, se souberem que a conversa está sendo processada por uma máquina. A Professora Henrietta Hughes, médica de família e membro da comissão do relatório, afirmou que muitos pacientes estão satisfeitos com a tecnologia, mas alguns preferem se recusar. Alguns dizem: Não quero falar com um robô, e essa opção é respeitada. A profissional reconhece que os robôs podem errar nos registros, mas afirma que cabe aos médicos corrigir esses erros.
Embora a IA seja usada hoje principalmente em tarefas administrativas ou para auxiliar profissionais humanos, há grande entusiasmo sobre seu potencial na pesquisa médica. O Professor Alastair Denniston, oftalmologista e membro da comissão, descreveu a tecnologia como uma oportunidade excepcional, comparável a avanços históricos como o desenvolvimento de antibióticos e de exames de ressonância magnética. Em setembro, Rene Haas, executivo da empresa de chips Arm, afirmou à BBC que a IA descobrirá a cura para o câncer durante a vida de muitas pessoas. Contudo, existem preocupações: modelos de IA podem tomar decisões erradas devido a vieses presentes nos dados de pacientes usados no treinamento, e chatbots podem fornecer conselhos médicos incorretos.
