Regime-Adaptive Bayesian Optimization via Dirichlet Process Mixtures of Gaussian Processes

Motivation

• Known: 표준 Bayesian Optimization은 단일 GP surrogate와 stationary kernel을 사용하여 탐색 공간 전역에 걸쳐 균일한 smoothness를 가정하며, non-stationary kernel(input-dependent length scale, deep GP 등)은 이러한 가정을 완화하지만 여전히 hyperparameter의 연속적·완만한 변화만을 모델링한다.
• Gap: 분자 형태 탐색의 에너지 basin, 약물 발견에서의 이종 molecular scaffold, 핵융합 로터 설계 등 실제 과학적 최적화 문제는 급격한 전환을 동반한 이산적(discrete) 레짐 구조를 가지는데, 기존 연속적 non-stationary kernel은 이런 급격한 경계를 표현하지 못하고 매끄럽게 보간해버려 oversmoothing 혹은 노이즈 hallucination으로 인한 miscalibrated uncertainty를 초래한다.
• Why: 과학적 설계 문제(분자 conformation, 약물 스크리닝, 핵융합 로터 설계 등)에서 레짐 간 경계를 사전에 지정하지 않고도 데이터로부터 직접 자동 발견하여 모델 복잡도를 조절할 수 있다면, 소수의 값비싼 함수 평가만으로도 더 정확한 uncertainty 추정과 효율적인 탐색이 가능해져 실제 응용에서의 BO 성능이 크게 개선될 수 있다.
• Approach: 각 latent regime을 독립적인 GP로 모델링하는 Dirichlet Process Mixture Model(DPMM-GP)을 제안하여 레짐 수와 경계를 비모수적으로 자동 추론하고, latent function을 해석적으로 marginalize하는 collapsed Gibbs sampling과 coarse-to-fine 레짐 발견을 위한 adaptive concentration parameter scheduling을 도입한다.

Achievement

Figure 1. Optimization performance across synthetic and real-world benchmarks. We report the best objective value found

1. DPMM-GP surrogate와 collapsed Gibbs sampling: latent function을 해석적으로 marginalize하는 collapsed Gibbs sampling을 도출하여 기존 HMC 기반 추론(Rasmussen & Ghahramani, 2001) 대비 mixing 효율을 개선했다.
2. Adaptive α-scheduling: 초기에는 작은 concentration parameter α로 조기 파편화를 방지하고, 데이터가 축적됨에 따라 α를 증가시켜 세밀한 regime 발견을 가능하게 하는 coarse-to-fine 스케줄링을 도입했다.
3. Closed-form Expected Improvement 분해: DPMM-GP posterior에 대한 closed-form Expected Improvement를 도출하여 uncertainty를 intra-regime variance와 inter-regime disagreement로 자연스럽게 분해하는 acquisition function을 제시했다.
4. 광범위한 실증 검증: synthetic benchmark(Levy, Schwefel 함수 등)와 분자 conformer 최적화, 약물 발견 virtual screening, 핵융합 로터 설계(ConStellaration) 등 실세계 다중 레짐 문제에서 state-of-the-art baseline 대비 일관된 성능 향상을 입증했다.

How

Figure 4. Dihedral (Torsion) Angle Diagram: The optimization space consists of 12 such rotational degrees of freedom, wh

• Gaussian Process(f(x) ~ GP(m(x), k(x,x'))) 기반 surrogate를 Dirichlet Process(DP(α, G0)) 혼합으로 확장하여 각 데이터 포인트를 잠재적 regime에 확률적으로 할당
• Sethuraman의 stick-breaking construction을 활용해 DP의 discrete 특성과 clustering property를 이론적으로 근거로 삼음(E[K|n] ≈ α log(n/α+1))
• collapsed Gibbs sampling을 유도하여 latent GP function을 해석적으로 marginalize, 각 regime의 hyperparameter θ={ℓ, σ²_f, σ²_n}를 국소적으로 최적화
• concentration parameter α를 최적화 진행 단계에 따라 동적으로 조정하는 adaptive scheduling 도입(초기 작은 α → 후기 큰 α)
• 표준 Expected Improvement(EI), Upper Confidence Bound(UCB) 형태를 DPMM-GP posterior에 맞게 재유도하여 intra-regime/inter-regime uncertainty 분해가 반영된 acquisition function 설계
• 2D Levy, Schwefel 등 synthetic benchmark와 분자 conformer(dihedral angle) 최적화, ZINC15/6T2W 기반 virtual screening, ConStellaration 핵융합 로터 설계 데이터셋에서 실험 수행

Originality

• 기존 non-stationary GP kernel들이 hyperparameter의 연속적 변화만 다루던 것과 달리, Dirichlet Process Mixture를 통해 이산적이고 사전에 함수 형태를 지정할 필요 없는 regime 구조를 비모수적으로 발견한다는 점에서 개념적으로 차별화된다.
• collapsed Gibbs sampling을 통한 latent function의 해석적 marginalization은 기존 HMC 기반 GP mixture 추론(Rasmussen & Ghahramani, 2001) 대비 효율성 측면에서 새로운 기여이다.
• concentration parameter의 coarse-to-fine 적응적 스케줄링이라는 아이디어를 BO의 exploration-exploitation trade-off 관점에서 모델 복잡도 수준으로 확장 적용한 점이 독창적이다.
• acquisition function에서 uncertainty를 intra-regime/inter-regime으로 명시적으로 분해하는 정식화는 mixture-of-GP 기반 BO에서 새로운 이론적 기여로 보인다.

Limitation & Further Study

• 발췌된 본문에서는 실험 세부 설정(baseline 목록, 하이퍼파라미터, 계산 비용 비교 등)이 충분히 드러나지 않아 실제 성능 향상의 정도와 통계적 유의성을 판단하기 어렵다.
• Dirichlet Process 기반 collapsed Gibbs sampling은 일반적으로 iteration 당 계산 비용이 크고 mixing에 민감할 수 있어, 고차원 탐색 공간이나 대규모 관측치 환경에서의 확장성(scalability)에 대한 분석이 부족해 보인다.
• regime 수가 자동으로 결정되지만, 실제로는 α 스케줄링 방식(coarse-to-fine 전환 시점 등)에 대한 하이퍼파라미터 민감도 분석이 필요할 것으로 보인다.
• 후속 연구로는 고차원 입력에 대한 확장, 온라인/실시간 regime 갱신을 위한 변분 추론(variational inference) 대안 모색, 그리고 다양한 커널 조합에 대한 이론적 수렴성 분석이 고려될 수 있다.

Evaluation

총평: 다중 레짐 구조를 가진 실세계 과학적 최적화 문제에 대해 Dirichlet Process Mixture of Gaussian Processes를 BO surrogate로 도입한 참신하고 이론적으로 탄탄한 접근으로, collapsed Gibbs sampling과 adaptive α-scheduling이라는 실질적 기여를 담고 있어 관련 분야에 의미 있는 진전을 제공한다.