Redditr/LocalLLaMALocalLLaMA
A local-first CLI over your own notes: the model never sees a document id, so it can't fabricate a citation (MIT)
2026년 8월 9일 오후 06:46Error 추천0 댓글
#CLI#RAG#AI#Local-first
요약
사용자의 로컬 문서를 기반으로 작동하는 CLI 도구인 chamber에 대한 소개입니다. 모델이 문서 ID를 직접 보지 않고 번호로만 참조하게 하여 가짜 인용을 방지하는 독특한 구조를 가지고 있습니다.
주요 내용
- 모델이 문서 ID나 경로 대신 단순 번호만 참조하게 하여 인용 조작을 원천 차단하고, 답변 작성 후 번호를 파일로 매칭하는 방식을 사용합니다.
- 문장 단위로 인용 여부를 검증하며, 근거가 없는 문장은 UNSUPPORTED로 표시하거나 답변이 불가능할 경우 솔직하게 모른다고 답하도록 설계되었습니다.
- 인용된 구절을 해싱하여 저장하므로 소스 문서가 변경되면 즉시 감지할 수 있으며, 별도의 DB나 설정 없이 실행 가능한 가벼운 구조를 지향합니다.