논문Hugging Face
From Proprietary to Open-Source: Bridging the Distribution Gap via Multi-Agent Protocol Distillation in Agentic Search
논문 ID: 2607.2428064 추천
#Agentic Search#Knowledge Distillation#Multi-Agent#LLM Optimization#Agent#RAG#Reasoning#Vision#Benchmark#Evaluation#Distillation
핵심 요약
독점 모델의 추론 능력을 오픈소스 모델로 전이하기 위해 구조화된 프로토콜을 활용하는 멀티 에이전트 증류 프레임워크 제안
상세 내용
에이전트 기반 검색은 복잡한 태스크 해결을 위해 추론과 검색을 결합하지만, 결과 기반 RL만으로는 희소한 감독 신호로 인해 최적화가 어렵습니다. 기존의 로짓 매칭은 토크나이저 불일치로 불가능하며, 단순 텍답 텍스트 모방은 스타일만 복제할 뿐 핵심 추론 능력을 전달하지 못하는 문제가 있습니다. 이를 해결하기 위해 연구진은 구조화된 프로토콜을 중간 표현으로 사용하는 MAPD 프레임워크를 제안합니다. MAPD는 멀티 에이전트 시스템을 통해 쿼리 분해, 정보 검색, 오류 수정을 수행하고 이를 JSON 형태의 프로토콜로 변ค้า하여 학생 모델의 특권 브랜치에 제공합니다. 실험 결과, MAPD는 다양한 QA 벤치마크에서 기존 방식보다 우수한 성능을 보였으며 스타일 드리프트와 과도한 장황함을 효과적으로 억제했습니다.
주요 내용
- 구조화된 JSON 프로토콜을 중간 표현으로 사용하여 스타일 편향을 방지하고 핵심 추론 로직을 전이
- 멀티 에이전트 시스템(MAS)을 활용한 오프라인 데이터 생성 및 정교한 탐색 트레이스 구축
- 특권 브랜치(Privileged Branch)를 통한 밀도 높은 증류 신호와 희소한 RL 목적 함수의 결합
실무에서 볼 만한 점
고성능 독점 모델(GPT-4 등)의 추론 능력을 저사양 오픈소스 모델로 효율적으로 이식하려는 엔지니어에게 실질적인 가이드를 제공합니다.
참고할 행동
- 제공된 JSON 프로토콜 스키마를 활용하여 소규모 모델의 추론 성능 변화 측정
- 다양한 크기의 오픈소스 모델(Qwen 등)을 학생 모델로 설정하여 성능 전이 효율성 테스트
- 단순 텍스트 모방 방식과 MAPD 방식 간의 스타일 드리프트(Verbosity) 비교 실험