Agentic Abstention: Do Agents Know When to Stop Instead of Act?

LLM 에이전트는 복잡한 환경에서 다회차 상호작용을 통해 목표를 달성하지만, 목표가 불가능하거나 모호한 경우에도 계속해서 도구를 호출하는 문제가 발생합니다. 본 논문은 에이전트가 불확실성 속에서 언제 행동을 멈춰야 하는지를 결정하는 'Agentic Abstention' 문제를 정의합니다. 연구진은 웹 쇼핑, 터미널, 질의응답 등 다양한 환경에서 13개의 에이전트 시스템을 대상으로 대규모 실험을 진행했습니다. 실험 결과, 모델의 규모가 크거나 추론 능력이 높더라도 적절한 시점에 중단하는 능력은 오히려 떨어질 수 있음을 확인했습니다. 이를 해결하기 위해 상호작용 궤적을 재사용 가능한 중단 규칙으로 정제하는 컨텍스트 엔지니어링 방법론인 CONVOLVE를 제안합니다. 결과적으로 CONVOLVE는 모델 파라미터 업데이트 없이도 에이전트의 적시 중단 성능을 크게 향상시켰습니다.