Scheduling Recursive Reasoning in Looped Transformers
재귀적 추론 모델의 업데이트 스케일을 동적으로 조절하여 추가 학습 없이도 추론 정확도와 속도를 높이는 스케줄러 제안
논문이 다루는 내용
최근 테스트 타임 연산량을 늘리기 위해 파라미터를 공유하며 상태를 반복 업데이트하는 재귀적 추론 모델이 주목받고 있습니다. 그러나 기존 모델은 고정된 스케일로 업데이트를 수행하여, 진전이 확실할 때는 너무 보수적이고 변동이 심할 때는 과도하게 공격적인 문제가 발생합니다. 본 논문은 최종 손실(terminal loss)이 업데이트 스케일에 따라 어떻게 변하는지 분석하여, 이를 '지속적 진전(persistent progress)'과 '중심적 변동(centered fluctuation)' 성분으로 분해했습니다. 이를 바탕으로 업데이트 간 균형을 추적하며 스텝 크기를 온라인으로 조정하는 TAPS 스케줄러를 도입했습니다. 실험 결과, TAPS는 재학습 없이도 구조적 추론 작업의 정확도를 높였으며, 학습 과정에 통합 시 동일 정확도 대비 최대 1.56배의 속도 향상을 달гах했습니다.
핵심 결과
-
재귀적 업데이트 스케일의 민감도 분석 및 이론적 분해 방법론 제시
-
진전과 변동의 균형을 실시간으로 조절하는 TAPS 스케줄러 개발
-
재학습 없이 추론 성능을 개선하고, 학습 시 연산 효율성을 극대화
실무에서 볼 만한 점
모델 구조를 바꾸거나 재학습하지 않고도 추론 시 스케줄링만으로 성능과 속도를 최적화할 수 있는 실용적인 방법론을 제공합니다.
읽을 때 확인할 점
-
기존 반복형(Recurrent) 모델의 추론 루프에 TAPS 로직 적용 테스트
-
학습 단계에서 스케줄러를 손실 함수에 통합하여 수렴 속도 비교
-
다양한 추론 깊이(depth) 설정에 따른 TAPS의 안정성 검증