임상 노트와 미세 조정된 변환기를 이용한 만성질환 예측

전자 건강 기록(EHR)은 최근 연구자들에 의해 통찰력을 얻고 이를 임상 정보학으로 활용하기 위해 광범위하게 사용되고 있습니다. EHR 데이터는 정보 시스템이 구축되어 있어 구조화된 데이터를 포함하고 있으며, 임상 노트와 같은 비구조화된 데이터도 포함하고 있습니다. 이러한 비구조화된 데이터는 탐색의 범위가 넓으며 유의미한 통찰력을 도출할 수 있습니다. 이러한 데이터의 이질적이고 다중 모드적인 특성으로 인한 도전이 존재합니다. 본 연구는 EHR 데이터에 대한 통찰력, 연구를 위한 사용 가능한 데이터셋, 이들에 대해 수행할 수 있는 작업, 적용할 수 있는 방법을 제공하고, BERT와 DistilBERT를 의료 데이터셋에 미세 조정하여 천식, 신장 질환, 심장 질환 및 관절염과 같은 만성 질환을 예측하는 방법을 설명하며, DISTILBERT가 BERT보다 선호될 수 있는 옵션이될 수 있음을 보여줍니다. 두 모델 BERT와 DISTILBERT는 미리 훈련된 후 임상 노트에서 만성 질환을 예측하기 위해 미세 조정되었습니다.