CEED-VLA: Consistency Vision-Language-Action Model with Early-Exit Decoding

Essence

Figure 1: Acceleration effect of CEED-VLA on OpenVLA and LLaVA-VLA. Left: Comparison

Vision-Language-Action (VLA) 모델의 추론 속도를 향상시키기 위해 consistency distillation과 early-exit decoding을 결합한 CEED-VLA를 제안하며, 4배 이상의 가속화를 달성한다.

Motivation

Known: Jacobi decoding은 autoregressive decoding을 병렬화하여 이론적으로 더 빠른 추론을 가능하게 하지만, 표준 VLA에서는 실제로 1.28배 정도의 제한된 가속화만 제공한다.
Gap: VLA가 AR 학습으로 인해 잘못된 prefix에 대한 robust한 예측 능력이 부족하여 Jacobi decoding에서 각 반복마다 한 토큰만 정확하게 예측하며, 비효율적인 반복이 병목이 된다.
Why: 고주파수 및 정밀한 조작 작업을 요구하는 로봇 배포에서 실시간 추론 속도는 실질적인 성능 제약이므로 효율적인 가속화 기법이 중요하다.
Approach: consistency distillation을 통해 학생 모델이 각 반복에서 여러 토큰을 예측하도록 학습하고, mixed-label supervision으로 오류 누적을 완화하며, early-exit decoding으로 비효율적인 반복을 제거한다.

Achievement

Figure 1: Acceleration effect of CEED-VLA on OpenVLA and LLaVA-VLA. Left: Comparison

4배 이상 추론 가속화: OpenVLA에서 3.6배, LLaVA-VLA에서 2.0배 이상의 speedup을 달성하면서 조작 성능 유지
높은 작업 성공률: 시뮬레이션 및 실제 로봇 작업에서 comparable 또는 improved success rates 달성
실시간 배포 가능: 실제 로봇 팔 배포에서 4배 주파수 향상과 고주파 정밀 작업에서 성능 개선
범용적 가속 패러다임: 서로 다른 VLA baseline에 적용 가능한 일반적인 방법론 제시

How

Figure 2: Overview of our proposed CEED-VLA. Our proposed framework first runs the pretrained

Consistency distillation: teacher 모델의 Jacobi trajectory 상의 임의 지점을 fixed point로 직접 매핑하도록 학생 모델 학습
Auxiliary AR loss: 학생 모델의 native autoregressive 능력 보존을 위해 teacher의 next-token 분포와의 alignment 유지
Mixed-label supervision: teacher 모델의 action accuracy가 학습된 threshold를 초과하면 teacher 출력을, 아니면 ground-truth를 supervision signal로 사용
Early-exit decoding: Jacobi decoding의 엄격한 convergence 조건을 완화하여 비효율적 반복 제거 및 평균 추론 속도 개선

Originality

처음으로 consistency training 기법을 VLA의 빠른 추론에 적용하여 intermediate Jacobi trajectory 상태를 fixed point로 매핑
mixed-label supervision을 통한 적응적 오류 누적 완화 메커니즘 설계로 distillation 과정에서의 supervision 신뢰도 향상
early-exit decoding으로 Jacobi decoding의 strict convergence 조건을 완화하면서도 성능 유지 가능함을 이론적·경험적으로 입증

Limitation & Further Study

mixed-label supervision의 threshold 학습 메커니즘에 대한 상세한 분석 및 민감도 분석 부족
early-exit decoding 시 convergence 완화의 정확한 조건과 task 특성에 따른 최적 exit point 선택 기준이 명확하지 않음
다양한 로봇 환경과 작업 유형에 대한 광범위한 일반화 검증 필요
후속 연구: early-exit 조건의 자동 학습, 다양한 VLA 아키텍처에 대한 확장성 검증, 더 복잡한 sequential decision-making 작업으로의 적용

Evaluation

Novelty: 4/5 Technical Soundness: 3/5 Significance: 4/5 Clarity: 4/5 Overall: 4/5

총평: CEED-VLA는 consistency distillation과 early-exit decoding을 결합하여 VLA 추론을 획기적으로 가속화하며, 실제 로봇 배포에서 4배 이상의 속도 개선을 달성하면서도 조작 성능을 유지하는 실용적이고 일반화 가능한 해결책을 제시한다.

같이 보면 좋은 논문

Diffusion Policy: Visuomotor Policy Learning via Action Diffusion

기반 연구Diffusion Policy는 VLA 모델에서 action diffusion을 통한 행동 생성 핵심 원리로, CEED-VLA의 추론 속도 개선 전략의 이론적 베이스다.

Consistency Policy: Accelerated Visuomotor Policies via Consistency Distillation

기반 연구Consistency Policy는 Consistency Distillation을 통한 확장성과 효율성에 집중하므로 early-exit 및 distillation의 결합을 논하는 CEED-VLA와 직접적으로 연결됩니다.

Efficient Diffusion Transformer Policies with Mixture of Expert Denoisers for Multitask Learning

다른 접근Efficient Diffusion Transformer Policies with Mixture of Experts는 추론 가속화 및 효율성 측면에서 CEED-VLA와 다른 모델 설계를 채택합니다.

Parallels Between VLA Model Post-Training and Human Motor Learning: Progress, Challenges, and Trends

다른 접근CEED-VLA는 consistency와 early exit을 통한 post-training 최적화로, 인간 운동학습적 해석이 아닌 모델 중심 접근법을 보여준다.

CorrectNav: Self-Correction Flywheel Empowers Vision-Language-Action Navigation Model

후속 연구CEED-VLA의 consistency distillation 등 post-training 가속화 기법이 CorrectNav의 후처리 강화(오류 복구) 전략의 이론적 기반이 됩니다.

SpecPrune-VLA: Accelerating Vision-Language-Action Models via Action-Aware Self-Speculative Pruning

후속 연구SpecPrune-VLA는 action token 가속화 및 early-exit과 결합해 추론 효율화 측면을 추가로 발전시킨다.