법적 판단 예측(LJP)은 점점 더 대형 언어 모델에 의존하게 되며, 이의 완전한 조정은 메모리 집약적이고 치명적인 망각에 취약합니다. 우리는 먼저 공격적인 학습률로 법적 지식 사전 조정을 수행하고, 그 후 보수적인 업데이트로 판단 관계를 정제하는 두 단계 저秩 적응(LoRA) 프레임워크인 LawLLM-DS를 제시합니다. 전용 LoRA 어댑터, 4비트 양자화 및 7개의 변환기 프로젝션 행렬의 목표 수정 방법을 사용하여 0.21%의 파라미터만 훈련 가능하도록 유지합니다. 구조적 관점에서, 20개의 주석이 달린 법적 요소는 군집 수준의 규칙성과 비대칭 희소성 패턴을 모두 나타내는 대칭 레이블 동시 발생 그래프를 형성하며, LawLLM-DS는 이러한 그래프 기반 의존성을 암묵적으로 포착하면서 하류 GNN 기반 표현과 호환성을 유지합니다. 5,096개의 수동 주석 이혼 사례에 대한 실험 결과, LawLLM-DS는 매크로 F1을 0.8893으로 상승시키고 0.8786의 정확도를 달성하여 동일한 데이터 체제 하에서 단일 단계 LoRA 및 BERT 기준선을 초월합니다. 제거 연구를 통해 단계별 학습률, 어댑터 배치 및 저秩 설정의 기여가 추가적으로 검증되었습니다. 이러한 발견은 커리큘럼 스타일의 파라미터 효율적 적응이 경량이면서 구조 인식이 가능한 LJP 시스템을 위한 실용적인 경로를 제공함을 입증합니다.
Zhao et al. (수요일)은 이 질문을 연구했습니다.