Hacking Healthcare – Por que nossos dados médicos futuros podem estar sob ataque

Jordan Harrod Blocked Unblock Seguir Seguindo 29 de dezembro de 2018

O artigo desta semana pode ser encontrado aqui: Ataques Adversariais Contra Sistemas de Aprendizagem Médica Profunda

Os custos dos cuidados de saúde têm aumentado até o ponto em que os cuidados médicos podem se tornar inacessíveis para uma parcela significativa da população dos EUA no futuro próximo. Muitas soluções têm sido propostas para retardar ou reverter esses aumentos de custos, incluindo a aprovação de programas federais de saúde (como o ACA) que tornam o atendimento médico mais eficiente para limitar consultas médicas a emergências absolutas.

Uma dessas soluções é a ideia de implementar a inteligência artificial na prática médica. Idealmente, isso reduziria o tempo gasto em tarefas domésticas ou recorrentes, evitaria a ineficiência do sistema de saúde, preveria condições crônicas antes que elas se tornassem irreversíveis e proporcionasse melhor atendimento médico aos pacientes. Na verdade, defendi essa solução em um artigo de opinião no passado.

Finlayson et al. 2018

No entanto, pesquisadores do MIT e Harvard Medical School publicaram recentemente um trabalho nos alertando que o sistema de saúde pode não estar pronto para o aprendizado profundo. Como acontece com qualquer outro programa, os sistemas médicos de aprendizagem profunda podem ser atacados por aqueles que pretendem roubar dados de pacientes particulares, e seu trabalho revela que os sistemas médicos podem ser mais suscetíveis do que a maioria a um tipo específico de ataque adversário.

O poder dos ataques adversários tem sido visto em muitas áreas de aprendizado profundo, inclusive em um teste do profundo software de reconhecimento de imagem baseado em aprendizado do Google (Spoiler: It failed). Ao fazer pequenas alterações nos dados que podem não alterar a classificação dos dados por uma pessoa, você pode enganar os algoritmos de aprendizado profundos na classificação incorreta das informações, resultando em diagnósticos incorretos do paciente e possíveis danos ao paciente.