Reddit r/LocalLLaMA LocalLLaMA
Learning to write AI harness old fashioned way. Need help with attention drift and ignoring tool call results!
2026년 7월 5일 오후 07:28 Error upvotes 0 comments
Read Original LLM Agent LLM_Agent Prompt_Engineering Tool_Calling
📝 Summary
사용자가 llama.cpp를 기반으로 직접 Node.js 기반 AI 하네스를 개발하며 겪는 에이전트 루프의 문제점에 대해 질문하고 있습니다. 도구 호출 결과 무시 및 주의력 분산 문제를 해결하기 위한 방법론을 찾고 있습니다.
🔑 Key Points
- • 직접 구현한 에이전트 루프에서 모델이 이전 도구 호출 결과를 무시하거나 동일한 도구를 반복 호출하는 현상이 발생함
- • Qwen 27B 모델을 사용 중이며, 기존 오픈소스 프로젝트인 pi.dev와 결과가 다르게 나타나는 점에 대해 의문을 제기함
- • 도구 호출 후 리마인더 메시지를 추가하는 방식으로 일부 개선을 시도했으나, 더 근본적인 해결책을 구하고 있음