LLM 배치를 위한 조정 필요 없는 책임 있는介入 -- 메타인지 접근법

대형 언어 모델(LLMs)은 몇 번의 샷 또는 제로 샷 프롬프팅을 통해 매개변수 조정의 필요성을 우회하고 자연어 처리 작업 전반에서 변혁적인 발전을 촉발했습니다. 편리하지만, 이러한 작동 방식은 특히 그들의 거대한 모델 크기 뒤에 숨겨진 신비로운 '검은 상자' 특성으로 인해 '환각' 문제를 악화시킵니다. 특히, 책임 없는 의사 결정 오류가 치명적인 결과를 초래할 수 있는 고위험 응용 프로그램(예: 의료)에서는 이러한 우려가 특히 심각합니다. 반면, 인간의 의사 결정은 개념적 이해를 통해 오해를 감지하고 적응적으로 수정할 수 있는 능력과 같은 미세한 인지 과정에 의존합니다. 인간 인지로부터 영감을 받아, 우리는 LLM에 자각적 오류 식별 및 수정 기능을 갖추기 위한 혁신적인 메타인지 접근법인 CLEAR를 제안합니다. 우리의 프레임워크는 투명한 의사 결정 경로를 밝히는 개념 특정희소 서브네트워크 구축을 촉진합니다. 이는 배치 후 모델 개입을 위한 새로운 인터페이스를 제공합니다. 우리의 개입은 강력한 장점을 제공합니다: (i) 배치 또는 추론 시, 우리의 메타인지 LLM은 최소한의 인간 개입으로 잠재적 잘못 예측을 자각적으로 식별할 수 있습니다, (ii) 모델은 효율적으로 오류를 자기 수정할 수 있는 능력이 있으며, 추가 조정의 필요성을 없애며, (iii) 수정 절차는 자기 설명적일 뿐만 아니라 사용자 친화적이어서 모델의 해석 가능성과 접근성을 향상시킵니다. 이러한 메타인지 기능을 통합함으로써 우리의 접근법은 LLM 배치에서 신뢰성과 책임성을 높이는 새로운 길을 개척합니다.