논문
RPTune: Learned Context Curation for LLM Catalog Search
LLM의 긴 컨텍스트 활용 능력을 극대화하기 위해 카탈로그 큐레이션과 모델 사후 학습을 결합한 엔드투엔드 프레임워크
논문이 다루는 내용
소규모 상점(SMB)의 경우 전체 카탈로그를 LLM의 긴 컨텍스트에 넣는 방식이 가능하지만, 모델이 긴 문맥을 균일하게 활용하지 못해 성능 저하가 발생합니다. 본 논문은 카탈로그를 어떻게 구성할 것인지와 구성된 컨텍스트에서 모델을 어떻게 적응시킬 것인지라는 두 가지 문제를 다룹니다. 이를 해결하기 위해 큐레이터가 제품을 정렬 및 선별하고, 선별된 데이터를 바탕으로 LLM을 사후 학습시키는 RPTune 프레임워크를 제안합니다. 실험 결과, RPTune은 다양한 리테일 분야에서 검색 정확도를 크게 향상시켰습니다.
핵심 결과
-
Encoder-Reorganizer를 통한 지능형 카탈로그 큐레이션(정렬 및 선별) 방식 제안
-
큐레이션된 컨텍스트를 활용한 LLM 사후 학습(Post-training)과 보상 체계 설계
-
실제 상거래 데이터셋을 통한 다양한 리테일 버티컬에서의 성능 검증
실무에서 볼 만한 점
RAG 시스템 구축 시 단순히 문서를 밀어넣는 것이 아니라, 모델이 정보를 더 잘 찾을 수 있도록 컨텍스트를 구조화하고 모델을 미세 조정하는 전략의 중요성을 보여줍니다.
읽을 때 확인할 점
-
Long-context LLM에 전체 데이터를 넣었을 때의 성능 저하(Lost-in-the-middle) 현상 재현 실험
-
데이터 선별(Pruning) 전략이 모델의 추론 성능에 미치는 영향 분석
-
도메인 특화 데이터로 큐레이션-학습 루프 구축 시뮬레이션