Agent LLM User Experience In-Car Assistant Feedback Reasoning

"What Are You Doing?": Effects of Intermediate Feedback from Agentic LLM In-Car Assistants During Multi-Step Processing

Paper ID: 2602.15569 • 12 Upvotes

📝 핵심 요약

운전 중 멀티스텝 작업을 수행하는 LLM 기반 차량 내 에이전트 어시스턴트에서 중간 피드백 제공이 사용자 경험, 신뢰도 향상, 작업 부하 감소에 긍정적인 영향을 미침.

📖 상세 내용

자율적으로 멀티스텝 작업을 수행하는 에이전트 AI 어시스턴트는 사용자 경험 측면에서 중요한 문제를 제기한다. 특히 운전과 같이 주의가 필요한 상황에서 시스템은 진행 상황과 추론 과정을 어떻게 전달해야 할까? 본 연구는 LLM 기반 차량 내 어시스턴트에서 계획된 단계 및 중간 결과 피드백을 제공하는 것과 최종 결과만 제공하는 경우를 비교하는 실험을 통해 피드백 타이밍과 상세 정도가 사용자 경험에 미치는 영향을 조사했다. 실험 결과, 중간 피드백은 인지된 속도, 신뢰도, 사용자 경험을 향상시키고 작업 부하를 감소시키는 것으로 나타났다. 인터뷰 결과, 사용자들은 초기에는 높은 투명성을 요구하지만 시스템의 신뢰도가 높아짐에 따라 점진적으로 상세 정도를 줄이는 적응형 접근 방식을 선호하는 것으로 나타났다. 본 연구 결과는 에이전트 어시스턴트의 피드백 타이밍과 상세 정도 설계에 대한 시사점을 제공한다.

🔑 주요 내용 (Key Points)

에이전트 LLM 기반 차량 내 어시스턴트의 중간 피드백이 사용자 경험 및 신뢰도 향상에 기여
사용자들은 초기 투명성을 중요하게 생각하며, 시스템 신뢰도에 따라 피드백 상세 정도를 조절하는 적응형 접근 방식을 선호
운전 중 작업 부하 감소에 중간 피드백이 효과적

💡 실무적 가치 (Relevance)

멀티스텝 작업을 수행하는 챗봇이나 에이전트 시스템 개발 시, 사용자에게 중간 진행 상황을 적절하게 피드백하는 것이 중요함을 알려준다. 특히 복잡한 작업이나 사용자의 신뢰가 중요한 경우, 초반에는 상세한 피드백을 제공하고 이후에는 점진적으로 줄이는 전략을 고려할 수 있다.

✅ 추천 액션 (Actionable Items)

LLM 에이전트 개발 시, 작업 단계를 분할하고 각 단계별 진행 상황을 사용자에게 피드백하는 기능 추가
피드백 상세 정도를 조절하는 옵션을 제공하여 사용자가 직접 설정 가능하게 구현
AB 테스트를 통해 다양한 피드백 전략의 효과를 측정하고 사용자 반응을 분석

View on Hugging Face View PDF (arXiv)