PyoSignal Logo
PyoSignal
Back to Research

Extending One-Step Image Generation from Class Labels to Text via Discriminative Text Representation

Paper ID: 2604.18168 โ€ข 86 Upvotes
Vision Generative AI Diffusion Models Text-to-Image LLM RAG
Extending One-Step Image Generation from Class Labels to Text via Discriminative Text Representation

๐Ÿ“ ํ•ต์‹ฌ ์š”์•ฝ

ํด๋ž˜์Šค ๋ ˆ์ด๋ธ” ๊ธฐ๋ฐ˜์˜ 1๋‹จ๊ณ„ ์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ(MeanFlow)์„ ํ…์ŠคํŠธ ๊ธฐ๋ฐ˜์œผ๋กœ ํ™•์žฅํ•˜์—ฌ, ํšจ์œจ์ ์ด๋ฉด์„œ๋„ ์œ ์—ฐํ•œ ์ด๋ฏธ์ง€ ์ƒ์„ฑ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๋Š” ํ•ต์‹ฌ ๊ธฐ์ˆ ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ“– ์ƒ์„ธ ๋‚ด์šฉ

MeanFlow์™€ ๊ฐ™์€ 1๋‹จ๊ณ„ ์ƒ์„ฑ ๋ฐฉ์‹์€ ํด๋ž˜์Šค ๋ ˆ์ด๋ธ” ๊ธฐ๋ฐ˜ ์ด๋ฏธ์ง€ ์ƒ์„ฑ์—์„œ ๋›ฐ์–ด๋‚œ ์„ฑ๋Šฅ์„ ๋ณด์˜€์ง€๋งŒ, ์œ ์—ฐํ•œ ํ…์ŠคํŠธ ์ž…๋ ฅ์œผ๋กœ์˜ ํ™•์žฅ์€ ๋ฏธ๊ฐœ์ฒ™ ๋ถ„์•ผ์˜€์Šต๋‹ˆ๋‹ค. ๊ธฐ์กด์˜ ๊ฐ•๋ ฅํ•œ LLM ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ ์ธ์ฝ”๋”๋ฅผ ๋‹จ์ˆœํžˆ ํ†ตํ•ฉํ•˜๋Š” ๋ฐฉ์‹์œผ๋กœ๋Š” 1๋‹จ๊ณ„ ์ƒ์„ฑ์˜ ํŠน์„ฑ์ƒ ํ…์ŠคํŠธ ํŠน์ง•์˜ ํŒ๋ณ„๋ ฅ์ด ๋ถ€์กฑํ•˜์—ฌ ๋งŒ์กฑ์Šค๋Ÿฌ์šด ๊ฒฐ๊ณผ๋ฅผ ์–ป๊ธฐ ์–ด๋ ค์› ์Šต๋‹ˆ๋‹ค. ๋ณธ ์—ฐ๊ตฌ๋Š” 1๋‹จ๊ณ„ ์ƒ์„ฑ์—์„œ ํ…์ŠคํŠธ ํŠน์ง•์˜ ๋†’์€ ํŒ๋ณ„๋ ฅ์ด ํ•„์ˆ˜์ ์ž„์„ ๋ฐํ˜€๋‚ด๊ณ , ์ด๋ฅผ ๋งŒ์กฑํ•˜๋Š” LLM ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ ์ธ์ฝ”๋”๋ฅผ MeanFlow ํ”„๋ ˆ์ž„์›Œํฌ์— ํšจ๊ณผ์ ์œผ๋กœ ํ†ตํ•ฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. ๊ทธ ๊ฒฐ๊ณผ, ์ตœ์ดˆ๋กœ ํšจ์œจ์ ์ธ ํ…์ŠคํŠธ ์กฐ๊ฑด๋ถ€ ์ด๋ฏธ์ง€ ํ•ฉ์„ฑ์„ ๋‹ฌ์„ฑํ–ˆ์œผ๋ฉฐ, ํ™•์‚ฐ ๋ชจ๋ธ์—์„œ๋„ ์ƒ๋‹นํ•œ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ๊ฒ€์ฆํ–ˆ์Šต๋‹ˆ๋‹ค.

๐Ÿ”‘ ์ฃผ์š” ๋‚ด์šฉ (Key Points)

  • 1๋‹จ๊ณ„ ์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ(MeanFlow)์„ ํด๋ž˜์Šค ๋ ˆ์ด๋ธ”์—์„œ ํ…์ŠคํŠธ ์กฐ๊ฑด๋ถ€ ์ƒ์„ฑ์œผ๋กœ ํ™•์žฅ
  • 1๋‹จ๊ณ„ ์ƒ์„ฑ์—์„œ ํ…์ŠคํŠธ ํŠน์ง•์˜ '๋†’์€ ํŒ๋ณ„๋ ฅ'์ด ํ•ต์‹ฌ์ ์ธ ์„ฑ๊ณต ์š”์ธ์ž„์„ ๊ทœ๋ช…
  • ๊ฐ•๋ ฅํ•œ LLM ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ ์ธ์ฝ”๋”๋ฅผ MeanFlow์— ํšจ๊ณผ์ ์œผ๋กœ ํ†ตํ•ฉํ•˜์—ฌ ํ…์ŠคํŠธ ์กฐ๊ฑด๋ถ€ ํ•ฉ์„ฑ ์„ฑ๋Šฅ ํ–ฅ์ƒ

๐Ÿ’ก ์‹ค๋ฌด์  ๊ฐ€์น˜ (Relevance)

๊ฐœ๋ฐœ์ž๋Š” ์ด ์—ฐ๊ตฌ๋ฅผ ํ†ตํ•ด ์ ์€ ๋‹จ๊ณ„๋งŒ์œผ๋กœ๋„ ์œ ์—ฐํ•œ ํ…์ŠคํŠธ ์ž…๋ ฅ์œผ๋กœ๋ถ€ํ„ฐ ๊ณ ํ’ˆ์งˆ ์ด๋ฏธ์ง€๋ฅผ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋˜์–ด, ์ด๋ฏธ์ง€ ์ƒ์„ฑ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ํšจ์œจ์„ฑ๊ณผ ํ™œ์šฉ๋„๋ฅผ ํฌ๊ฒŒ ๋†’์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

โœ… ์ถ”์ฒœ ์•ก์…˜ (Actionable Items)

  • ์ œ๊ณต๋œ ์ฝ”๋“œ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๋‹ค์–‘ํ•œ ํ…์ŠคํŠธ ํ”„๋กฌํ”„ํŠธ๋กœ ์ด๋ฏธ์ง€ ์ƒ์„ฑ ํ’ˆ์งˆ ๋ฐ ์†๋„ ํ…Œ์ŠคํŠธ
  • ๊ธฐ์กด์˜ ๋‹ค๋‹จ๊ณ„ ํ…์ŠคํŠธ-์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ๊ณผ ๋ณธ ๋ฐฉ์‹์˜ ์ƒ์„ฑ ๊ฒฐ๊ณผ๋ฌผ ํ’ˆ์งˆ ๋ฐ ์ถ”๋ก  ์†๋„๋ฅผ ๋น„๊ต ๋ถ„์„
  • ๋‹ค๋ฅธ LLM ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ ์ธ์ฝ”๋”๋ฅผ ์ ์šฉํ•˜์—ฌ ํ…์ŠคํŠธ ํŠน์ง•์˜ ํŒ๋ณ„๋ ฅ๊ณผ ์ตœ์ข… ์ด๋ฏธ์ง€ ์ƒ์„ฑ ์„ฑ๋Šฅ ๋ณ€ํ™”๋ฅผ ์‹คํ—˜