Key points are not available for this paper at this time.
최근의 사전 학습 발전은 현대 대형 언어 모델(LLM)이 산수 연산을 효과적으로 학습할 수 있는 능력을 가지고 있음을 보여주었습니다. 그러나 산수 계산에서 숫자 순서의 중요성을 인정함에도 불구하고, 현재의 방법론은 주로 LLM에게 산수를 가르치는 데 단계별 접근 방식에 의존하고 있습니다. 이는 더 나은 성능을 얻기 위해 세세한 단계별 진행이 필요하다는 결론으로 이어집니다. 이러한 전통적인 경로에서 벗어나, 우리 연구는 조차식 숫자의 출력을 우선시함으로써 숫자 순서를 재평가하는 새로운 전략을 소개하며, 동시에 복잡성을 크게 줄이기 위한 단계별 방법론을 통합합니다. 우리는 이 방법을 포괄적인 실험 세트에서 개발하고 적용했습니다. 기존의 최첨단(SOTA) 방법과 비교할 때, 우리의 연구 결과는 일반적으로 정확도가 향상되었으며, 학습 중 일반적으로 사용되는 토큰의 3분의 1만 필요로 했습니다. 재현 가능성을 촉진하고 추가 연구를 용이하게 하기 위해, 우리는 우리의 코드와 데이터 세트를 공개적으로 https://anonymous.4open.science/r/RAIT-9FB7/에서 제공하고 있습니다.
Zhang-Li et al. (Sat,)은 이 질문을 연구했습니다.