Desidentificação de registros médicos em texto livre usando transformadores bidirecionais pré-treinados

A capacidade de cuidadores e investigadores de compartilhar dados dos pacientes é fundamental em muitas áreas da prática clínica e da pesquisa biomédica. Antes de compartilhar, muitas vezes é necessário remover identificadores como nomes, detalhes de contato e datas para proteger a privacidade dos pacientes. A desidentificação, o processo de remoção de identificadores, é desafiadora. Dados anotados de alta qualidade para desenvolver modelos são escassos; muitos identificadores-alvo são altamente heterogêneos (por exemplo, existem variações incontáveis de nomes de pacientes); e, na prática, qualquer coisa menos que sensibilidade perfeita pode ser considerada uma falha. Como resultado, os dados dos pacientes muitas vezes são retidos quando o compartilhamento seria benéfico, e dados identificáveis dos pacientes são frequentemente divulgados quando uma versão desidentificada seria suficiente. Nos últimos anos, os avanços em métodos de aprendizado de máquina levaram a melhorias rápidas no desempenho de tarefas de processamento de linguagem natural, em particular com o advento de modelos de linguagem pré-treinados em grande escala. Neste artigo, desenvolvemos e avaliamos uma abordagem para desidentificação de notas clínicas com base em um modelo de transformador bidirecional. Propomos medidas de avaliação interpretáveis por humanos e demonstramos desempenho de ponta em comparação com modelos base modernos. Por fim, destacamos os desafios atuais na desidentificação, incluindo a ausência de diretrizes de anotação claras, falta de portabilidade dos modelos e escassez de dados de treinamento. O código para desenvolver nosso modelo é de código aberto, permitindo ampla reutilização.