Ensinando AI para falar com os médicos

Jordan Harrod em Ciência + Comunicação + Política Seguir 25 Abr · 3 min ler

Quando solicitados a explicar como chegaram ao diagnóstico, um bom médico pode refazer seus passos até o momento em que o paciente entrou no hospital. Às vezes, eles podem ir ainda mais longe, até o momento em que levaram o paciente ao hospital, em primeiro lugar. Diagnóstico é uma combinação de resultados de testes, conhecimento médico e intuição (muitas vezes chamado de gestalt clínico) e, embora seu médico nem sempre esteja certo, o processo de criação de um diagnóstico possibilita identificar o momento em que o processo deu errado. .

No entanto, a definição desse momento e do processo diagnóstico em geral apresentou um desafio único para os pesquisadores que desenvolvem o aprendizado de máquina para a medicina. Os desenvolvedores confiam em métricas como precisão, sensibilidade e especificidade para garantir que seus modelos estejam funcionando corretamente, apenas para encontrar confusão entre os médicos quando não conseguem explicar como seu modelo chegou a uma conclusão específica. Vimos isso em 2018, quando um relatório de médicos oncológicos que trabalhavam com uma versão inicial do software da IBM Watson Oncology se viu insatisfeito com o desempenho de Watson na clínica e confuso sobre como ele criava planos de tratamento do câncer.

Pesquisadores da Universidade de Washington começaram a dar passos nesta área desenvolvendo aprendizado de máquina que se explica aos médicos . Neste caso, seu programa, chamado Prescience, analisa a história do paciente e os dados médicos em tempo real de pacientes anestesiados durante a cirurgia para rastrear o risco de um paciente desenvolver hipoxemia (baixa tensão arterial de oxigênio), uma condição ligada à parada cardíaca. infecção pós-cirúrgica e acidente vascular cerebral. Prescience, em seguida, explica como ele calculou esse valor de risco, destacando fatores clínicos na história de um paciente (ex. IMC ou idade) e nos dados da cirurgia em tempo real (ex. Pulso, pressão arterial) que influenciam positiva ou negativamente este cálculo. Essa análise é tradicionalmente realizada por um anestesiologista com base em seu conhecimento da história do paciente e dos dados em tempo real dos sensores padrão de cirurgia, de modo que a Prescience foi projetada para atuar como assistente na sala de cirurgia.

Como pode a Prescience identificar sinais de hipoxemia? Bem, previu-se corretamente se um paciente desenvolveria hipoxemia cerca de 81% do tempo. Se isso soa baixo, os pesquisadores também estudaram quão bem os anestesiologistas previram se um paciente desenvolveria hipoxemia com os mesmos dados médicos usados para treinar a Prescience, tanto por si mesmos quanto com a assistência da Prescience. Em comparação com a Presciência sozinha, os anestesiologistas sem Presciência estavam corretos cerca de 66% do tempo, indo até 77% quando assistidos pela Prescience. Em outras palavras, a Prescience foi melhor em prever hipoxemia do que os anestesiologistas, mesmo quando os anestesiologistas foram assistidos pela Prescience em suas decisões.

Isso significa que a Prescience encontrou informações na história de um paciente que os médicos podem ignorar? Curiosamente, parece confiar nos mesmos fatores de risco que os médicos – oxigenação do sangue, pressão arterial e se o hospital especializado em atendimento ao trauma eram as três variáveis mais importantes na previsão do início da hipoxemia para os anestesiologistas e para a Prescience. No entanto, outras variáveis, como IMC, pulso e frequência respiratória, foram influentes para a Presciência, mas não para os anestesiologistas, sugerindo que a Presciência pode usar correlações não vistas pelos anestesiologistas ao predizer o valor do risco.

Embora seja improvável que você veja Prescience em sua sala de cirurgia local em um futuro próximo, provavelmente verá outras aplicações de aprendizado de máquina incorporadas em seu atendimento médico, se ainda não o fez. Um dos muitos obstáculos que os desenvolvedores enfrentaram e continuarão a enfrentar na expansão do uso do aprendizado de máquina na área da saúde é sua capacidade de explicar as decisões de um programa a médicos e pacientes. Programas como Prescience demonstram que a exatidão da previsão é apenas aumentada pela explicação, e que a abertura da caixa preta de machine learning convida a uma maior descoberta sobre os programas e as pessoas que os utilizam.

Agora, incline-se para trás em sua cadeira e conte para trás de 10, 9, 8 …