Program-as-Weights: A Programming Paradigm for Fuzzy Functions

Paper ID: 2607.02512 • 48 Upvotes

LLM-as-a-Tool Model-Compression Edge-AI Programming-Paradigm Inference

Program-as-Weights: A Programming Paradigm for Fuzzy Functions

📝 핵심 요약

자연어 명세로부터 경량 어댑터를 생성하여, 거대 모델 없이도 로컬에서 고성능 '퍼지 함수'를 실행하는 새로운 프로그래밍 패러다임 제안

📖 상세 내용

로그 모니터링이나 데이터 정제와 같이 규칙 기반 구현이 어려운 작업들이 LLM API로 외주화되면서 비용과 재현성 문제가 발생하고 있습니다. 이를 해결하기 위해 자연어 명세를 컴파일하여 작은 신경망 아티팩트로 변환하는 '퍼지 함수 프로그래밍'을 제안합니다. 연구진은 4B 규모의 컴파일러가 고정된 경량 인터프리터를 위한 파라미터 효율적 어댑터를 생성하는 'Program-as-Weights(PAW)' 방식을 도입했습니다. 실험 결과, 0.6B 규모의 인터프리터가 32B 모델의 프롬프팅 성능을 따라잡으면서도 메모리 사용량은 20분의 1로 줄이고 빠른 추론 속도를 달성했습니다. 결과적으로 파운데이션 모델을 매번 호출하는 도구가 아닌, 재사용 가능한 작은 아티팩트를 만드는 '도구 빌더'로 재정의했습니다.

🔑 주요 내용 (Key Points)

자연어 명세를 경량 어댑터로 컴파일하는 'Program-as-Weights' 패러다임 제안
거대 모델(32B) 수준의 성능을 초경량 모델(0.6B)과 어댑터 조합으로 구현
추론 비용 절감, 로컬 실행 가능성, 높은 재현성 확보

💡 실무적 가치 (Relevance)

LLM API 호출 비용과 지연 시간 문제 없이, 특정 태스크에 최적화된 초경량 모델을 로컬 환경에서 즉시 배포할 수 있는 실용적인 방법론을 제시합니다.

✅ 추천 액션 (Actionable Items)

특정 도메인(예: JSON 정제)에 특화된 데이터셋 구축 및 컴파일 테스트
기존 프롬프트 엔지니어링 방식과 PAW 방식의 비용/속도 비교 실험
엣지 디바이스(MacBook, 모바일 등)에서의 실시간 추론 성능 검증

View on Hugging Face View PDF (arXiv)