Redditr/LocalLLaMALocalLLaMA
BTL-3 27B agentic coding and tool-use model from Bad Theory Labs (fits in 8.39GB)
2026년 7월 22일 오후 07:22Error 추천0 댓글
#AI#Agent#Quantization#AgenticAI#LLM
요약
Bad Theory Labs에서 에이전트 중심의 코딩 및 도구 사용에 특화된 27B 모델인 BTL-3를 공개했습니다. 이 모델은 극도로 압축된 8.39GB 크기임에도 불구하고 높은 지능과 성능을 유지하며, 독자적인 양자화 기술을 통해 효율적인 로컬 실행이 가능합니다.
주요 내용
- 2.5 bits per parameter 수준의 초고압축 기술을 적용하여 27B 모델을 8.39GB 단일 파일로 구현하면서도 원본 지능의 92.2%를 유지합니다.
- 추론, 실행, 결과 검토, 복구로 이어지는 에이전트 루프에 최적화되어 있으며 HumanEval 95.12%의 높은 성능을 보여줍니다.
- 독자적인 스택(AVQ2, affine INT4 등)을 통해 압축 시 발생하는 성능 저하를 방지하고 로컬 환경에서 빠른 생성 속도를 제공합니다.