Moebius: 0.2B Lightweight Image Inpainting Framework with 10B-Level Performance

Paper ID: 2606.19195 • 95 Upvotes

Image Inpainting Model Compression Diffusion Models Efficiency Vision Benchmark Inference Distillation Optimization Safety

Moebius: 0.2B Lightweight Image Inpainting Framework with 10B-Level Performance

📝 핵심 요약

0.2B 규모의 초경량 파라미터로 10B급 성능을 구현한 고효율 이미지 인페인팅 프레임워크

📖 상세 내용

최근 10B 이상의 거대 모델이 이미지 인페인팅 성능을 높였으나, 막대한 연산 비용으로 인해 실무 배포에 어려움이 있습니다. 모델을 압축할 경우 발생하는 표현력 저하 문제를 해결하기 위해 Moebius 프레임워크를 제안합니다. 핵심 기술로 공간 컨텍스트와 글로벌 의미를 고정 크기 행렬로 요약하는 LλMI 블록을 도입하여 파라미터를 획기적으로 줄였습니다. 여기에 잠재 공간 내에서 다중 그래디언트 손실을 조절하는 적응형 다중 입도 증류(Multi-granularity Distillation) 전략을 결합했습니다. 실험 결과, Moebius는 기존 거대 모델 대비 2% 미만의 파라미터만 사용하면서도 대등하거나 더 뛰어난 생성 품질을 보여주었습니다.

🔑 주요 내용 (Key Points)

LλMI(Local-λ Mix Interaction) 블록을 통한 효율적인 공간 및 글로벌 정보 요약
잠재 공간 내에서 수행되는 적응형 다중 입도 증류(Multi-granularity Distillation) 전략
거대 모델(FLUX.1-Fill-Dev) 대비 압도적인 추론 속도 및 파라미터 효율성 확보

💡 실무적 가치 (Relevance)

엣지 디바이스나 실시간 서비스 환경에서 고성능 인페인팅 기능을 저비용·고속으로 구현할 수 있는 실질적인 가이드를 제공합니다.

✅ 추천 액션 (Actionable Items)

제안된 LλMI 블록 구조를 기존 경량 Diffusion 모델에 이식하여 성능 변화 확인
다양한 해상도 환경에서 잠재 공간 기반 증류 전략의 안정성 테스트
실제 프로덕션 환경에서의 추론 속도(Latency)와 메모리 점유율 벤치마크

View on Hugging Face View PDF (arXiv)