PyoSignal Logo
PyoSignal
Back to Research

Embodied.cpp: A Portable Inference Runtime of Embodied AI Models on Heterogeneous Robots

Paper ID: 2607.02501 β€’ 34 Upvotes
Embodied AI C++ Inference Runtime Robotics Edge Computing RAG Vision Benchmark Evaluation Inference
Embodied.cpp: A Portable Inference Runtime of Embodied AI Models on Heterogeneous Robots

πŸ“ 핡심 μš”μ•½

이 κΈ°μ’… λ‘œλ΄‡ ν™˜κ²½μ—μ„œ VLA 및 WAM λͺ¨λΈμ„ 효율적으둜 λ°°ν¬ν•˜κΈ° μœ„ν•œ λͺ¨λ“ˆν˜• C++ μΆ”λ‘  λŸ°νƒ€μž„ ν”„λ ˆμž„μ›Œν¬

πŸ“– 상세 λ‚΄μš©

졜근 Embodied AI λͺ¨λΈμ€ VLA와 WAM λ“± λ‹€μ–‘ν•œ ν˜•νƒœλ‘œ λ°œμ „ν•˜κ³  μžˆμœΌλ‚˜, 파이썬 기반 μŠ€νƒκ³Ό νŒŒνŽΈν™”λœ 배포 μ½”λ“œλ‘œ 인해 이기쒅 μ—£μ§€ λ””λ°”μ΄μŠ€ 배포가 μ–΄λ ΅μŠ΅λ‹ˆλ‹€. κΈ°μ‘΄ μΆ”λ‘  λŸ°νƒ€μž„μ€ μš”μ²­-응닡 방식에 μ΅œμ ν™”λ˜μ–΄ μžˆμ–΄, 폐쇄 루프 μ œμ–΄μ— ν•„μš”ν•œ λ©€ν‹° 레이트 μ‹€ν–‰μ΄λ‚˜ μ €μ§€μ—° 배치-1 μΆ”λ‘  μš”κ΅¬μ‚¬ν•­μ„ μΆ©μ‘±ν•˜μ§€ λͺ»ν•©λ‹ˆλ‹€. 이λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄ λ³Έ 논문은 이기쒅 λ‘œλ΄‡μ„ μœ„ν•œ 포터블 C++ μΆ”λ‘  λŸ°νƒ€μž„μΈ Embodied.cppλ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. 이 ν”„λ ˆμž„μ›Œν¬λŠ” μž…λ ₯ μ–΄λŒ‘ν„°λΆ€ν„° 배포 μ–΄λŒ‘ν„°κΉŒμ§€ 5개 κ³„μΈ΅μœΌλ‘œ κ΅¬μ„±λ˜μ–΄ λͺ¨λ“ˆμ‹ μ‹€ν–‰κ³Ό ν™•μž₯ κ°€λŠ₯ν•œ I/Oλ₯Ό μ§€μ›ν•©λ‹ˆλ‹€. μ‹€ν—˜ κ²°κ³Ό, HY-VLA 및 pi0.5 λͺ¨λΈμ—μ„œ 높은 μž‘μ—… 성곡λ₯ μ„ κΈ°λ‘ν–ˆμœΌλ©°, WAM λ²€μΉ˜λ§ˆν¬μ—μ„œ λ©”λͺ¨λ¦¬ μ‚¬μš©λŸ‰μ„ 크게 μ ˆκ°ν•˜λ©° 효율적인 배포 μ„±λŠ₯을 μž…μ¦ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ£Όμš” λ‚΄μš© (Key Points)

  • 이기쒅 ν•˜λ“œμ›¨μ–΄ 및 λ‘œλ΄‡μ„ μ§€μ›ν•˜λŠ” λͺ¨λ“ˆν˜• 5계측 C++ μΆ”λ‘  μ•„ν‚€ν…μ²˜ 섀계
  • 폐쇄 루프 μ œμ–΄λ₯Ό μœ„ν•œ λ©€ν‹° 레이트 μ‹€ν–‰ 및 μ €μ§€μ—° 배치-1 μΆ”λ‘  μ΅œμ ν™”
  • VLA 및 WAM λͺ¨λΈ λͺ¨λ‘μ— 적용 κ°€λŠ₯ν•œ ν™•μž₯ κ°€λŠ₯ν•œ μž…μΆœλ ₯ 및 μ—°μ‚°μž μΈν„°νŽ˜μ΄μŠ€

πŸ’‘ 싀무적 κ°€μΉ˜ (Relevance)

파이썬 μ˜μ‘΄μ„±μ„ νƒˆν”Όν•˜μ—¬ λ‘œλ΄‡ μ—£μ§€ λ””λ°”μ΄μŠ€μ—μ„œ μ‹€μ‹œκ°„ μ œμ–΄ 루프λ₯Ό μœ μ§€ν•˜λ©΄μ„œλ„ κ³ μ„±λŠ₯ AI λͺ¨λΈμ„ 배포할 수 μžˆλŠ” 싀무적인 방법둠을 μ œμ‹œν•©λ‹ˆλ‹€.

βœ… μΆ”μ²œ μ•‘μ…˜ (Actionable Items)

  • μ œμ‹œλœ 5계측 μ•„ν‚€ν…μ²˜λ₯Ό 기반으둜 νŠΉμ • VLA λͺ¨λΈμ˜ C++ ν¬νŒ… κ°€λŠ₯μ„± κ²€ν† 
  • μ—£μ§€ λ””λ°”ν‹°λΈŒ ν™˜κ²½μ—μ„œ κΈ°μ‘΄ Python μŠ€νƒ λŒ€λΉ„ μ§€μ—° μ‹œκ°„(Latency) 및 λ©”λͺ¨λ¦¬ 효율 비ꡐ μ‹€ν—˜
  • μ‚¬μš© 쀑인 λ‘œλ΄‡ μ œμ–΄ 루프와 Embodied.cpp의 λ©€ν‹° 레이트 μ‹€ν–‰ 방식 톡합 ν…ŒμŠ€νŠΈ