논문Hugging Face
Mental World Modeling
논문 ID: 2607.2720152 추천
#Agent#World Models#LLM#Cognitive AI#Vision#Video#Evaluation
핵심 요약
물리적 환경 변화뿐만 아니라 에이전트의 내면적 상태(믿음, 의도 등)를 핵심 변수로 통합하는 새로운 월드 모델링 프레임워크 제안
상세 내용
기존의 월드 모델은 물리적 물리 법칙과 상태 변화에만 집중하여 인간의 복잡한 의사결정을 예측하는 데 한계가 있었습니다. 본 논문은 에이전트의 심리적 상태를 모델의 핵심 구성 요소로 포함하는 'Mental World Modeling(MWM)' 프레임워크를 제안합니다. MWM은 물리적 상태와 정신적 상태가 결합된 상태를 유지하며, 특정 목표에 따른 부분 관측과 행동에 따른 상태 업데이트를 시뮬레이션합니다. 이를 검증하기 위해 훈련이 필요 없는 inspectable한 베이스라인인 MENTIS를 구현했습니다. 실험 결과, 최신 LLM 기반 월드 모델들이 인간의 결정을 예측할 때 명시적인 정신 상태 모델링이 필수적임을 입증했습니다.
주요 내용
- 물리적 상태와 정신적 상태(믿음, 의도 등)를 결합한 통합 프레임워크 MWM 제안
- 훈련 없이 검증 가능한(training-free) 및 해석 가능한(inspectable) MENTIS 베이스라인 구현
- LLM 기반 모델에서 정신적 변수 모델링이 인간 의사결정 예측의 핵심임을 증명
실무에서 볼 만한 점
단순한 환경 변화 예측을 넘어, 인간과 상호작용하는 에이전트나 복잡한 사회적 시나리오를 다루는 AI 시스템 설계 시 필수적인 이론적 토대를 제공합니다.
참고할 행동
- LLM 기반 에이전트에 MWM의 '상태 파싱' 및 '정신적 전이' 로직을 모듈형으로 이식해보기
- 에이전트가 타인의 의도를 오해하는 상황(False Belief)에 대한 시나리오 데이터셋 구축
- 현재 사용 중인 LLM 기반 월드 모델에 심리적 변수를 입력값으로 주었을 때의 성능 변화 측정