ActionPiece: Rethinking Action Tokenization for Autoregressive Vision-Language-Action Models
물리적 관계 보존을 위한 새로운 토큰화 기법을 통해 VLA 모델의 로봇 제어 정밀도와 성공률을 높인 연구
논문이 다루는 내용
기존의 VLA 모델은 MSE와 같은 점별 재구성 지표를 사용하여 액션 토크나이저를 평가해 왔습니다. 그러나 이러한 방식은 데이터 압축 과정에서 액션 간의 상대적 거리나 물리적 관계가 왜곡되는 문제를 해결하지 못합니다. 본 논문은 물리적 순위 일관성(PRC)이라는 새로운 지표를 제안하여 재구성 후에도 물리적 거리 순위가 유지되는지 측정합니다. 이를 바탕으로 제안된 ActionPiece는 표현 학습과 양자화 과정에서 물리적 관계를 보존하도록 공동 학습을 수행합니다. 실험 결과, ActionPiece는 LIBERO 및 SimplerEnv 등 다양한 벤치마크에서 기존 방식보다 높은 성공률을 달성하며 물리적 관계 보존의 중요성을 입증했습니다.
핵심 결과
-
물리적 순위 일관성(PRC) 지표 제안: 단순 오차(MSE)를 넘어 액션 간 상대적 관계 보존 여부 측정
-
ActionPiece 프레임워크: 인코더와 양자화 과정에 물리적 거리 순위를 반영하는 공동 학습 방식 도입
-
VLA 성능 향상: 고정된 디코더를 사용하면서도 정교한 액션 토큰 생성을 통해 로봇 제어 성공률 극대화
실무에서 볼 만한 점
로봇 제어 모델 학습 시 단순 오차 최소화가 아닌, 동작 간의 상대적 관계를 유지하는 것이 실제 작업 성공률에 직결됨을 시사합니다.
읽을 때 확인할 점
-
기존 VLA 모델의 액션 토크나이저 성능을 PRC 지표로 재평가해보기
-
손실 함수에 물리적 거리 순위 보존 항(Ranking Loss)을 추가하여 실험해보기
-
동일한 디코더 환경에서 양자화(Quantization) 전략 변화에 따른 제어 성능 변화 관찰하기