Dynamic large language model representations for multi-objective chemical reaction optimisation

Motivation

• Known: Bayesian optimisation은 low-data 화학 반응 최적화 및 최근에는 고처리량 batched 실험 최적화에 데이터 효율적인 프레임워크로 널리 활용되어 왔으며, 반응 조건을 표현하기 위해 Kraken, COSMO-RS 같은 사전 계산된 분자 기술자 라이브러리 혹은 one-hot encoding이 주로 사용되어 왔다.
• Gap: 기존 분자 기술자 기반 접근법은 어떤 기술자를 계산할지 사전 화학 직관에 의존하며 새로운 반응계마다 반복적인 선택 워크플로우가 필요하고, 단좌위(monodentate)와 이좌위(bidentate) 리간드처럼 화학적으로 이질적인 반응 성분 간 공통 표현이 부족하다. One-hot encoding은 범용적이지만 화학적 유사성을 반영하지 못하는 희소하고 고차원적인 표현을 만들며, 반응 성분 수에 따라 차원이 커진다는 한계가 있다.
• Why: 기술자 선택 워크플로우나 도메인별 특징 엔지니어링 없이도 화학적으로 이질적인 반응 성분과 다양한 실험 규모(low-data부터 HTE까지)에 범용적으로 적용 가능한 반응 최적화 프레임워크는 실제 제약·공정화학 및 학술 연구 현장에서 실용적 가치가 크다.
• Approach: 반응 조건의 텍스트 설명을 LoRA로 fine-tuning된 language model로 인코딩하고, 각 목적함수(예: yield, selectivity)별 projection head를 거쳐 독립적인 Gaussian process surrogate에 입력한 뒤, joint marginal log-likelihood 최대화를 통해 LLM-GP 아키텍처를 end-to-end로 공동 학습시켜 매 최적화 반복마다 표현을 갱신한다.

Achievement

Figure 3. Sequential low-data optimisation benchmarks comparing different representation methods (MO-LLM, DFT descriptor

1. 동적 표현 학습 프레임워크 제안: 고정 featurisation을 대체하는 trainable LLM 임베딩과 GP surrogate의 joint fine-tuning 구조를 도입하여, 실험 데이터가 누적될수록 반응 성능에 따라 잠재 공간이 점진적으로 재구성되는 동적 임베딩을 실현했다.
2. 다양한 실험 regime에서의 벤치마킹: 니켈 및 팔라듐 촉매 교차짝지음 반응의 순차적 low-data 최적화와 96-well plate 기반 대규모 batch HTE 캠페인 등 서로 다른 실험 규모에서 기존 기술자 라이브러리 및 one-hot encoding 기준선 대비 더 적은 반복 횟수로 실용적 수렴 기준을 달성했다.
3. 범용적이고 out-of-the-box 적용 가능성 입증: 반응 성분의 화학적 이질성이나 반응 유형에 무관하게 기술자 계산이나 특징 엔지니어링 없이 적용 가능한 통합 표현 방식을 제시하여 HTE 자동화 플랫폼과의 호환성을 보였다.

How

Figure 2. Benchmarking multi-objective reaction optimisation across experimental regimes. a, Metrics for evaluating mult

• 다목적 Bayesian optimisation 문제를 Pareto 최적 집합(P*) 근사 및 dominated hypervolume(HV) 지표로 정식화
• 반응 조건(리간드, 촉매, 염기 등)의 텍스트 설명을 입력으로 사용하고 LoRA로 fine-tuning된 pre-trained language model을 인코더로 채택
• 인코딩된 표현을 각 반응 목적(yield, selectivity 등)에 특화된 projection head를 통해 독립적인 Gaussian process surrogate로 전달
• 전체 아키텍처(LLM 인코더 + projection head + GP)를 joint marginal log-likelihood 최대화를 통해 end-to-end로 학습하여 매 iteration마다 표현이 갱신되도록 함
• acquisition function을 통해 다음 실험을 선택하고 실제 실험 결과를 반영해 반복 학습하는 closed-loop 구조 구현
• Kraken, COSMO-RS 등 기술자 라이브러리 및 one-hot encoding을 기준선으로 하여 니켈/팔라듐 교차짝지음 low-data 최적화와 96-well plate HTE 벤치마크에서 성능 비교
• pre-trained language model 아키텍처와 pooling 전략에 대한 ablation 연구 수행

Originality

• 고정된 분자 기술자나 one-hot encoding을 대체하여, LLM 임베딩을 GP surrogate와 공동으로(joint) fine-tuning함으로써 최적화 과정 중 동적으로 개선되는 반응 표현이라는 아이디어를 다목적(multi-objective) 반응 최적화 맥락에 최초로 확장 적용
• 화학적으로 이질적인 반응 성분(단좌위/이좌위 리간드, 무기 염기, 유기금속 첨가제 등)에 걸쳐 통합된 텍스트 기반 표현을 제공한다는 점에서 기존 기술자 기반 접근법의 근본적 한계를 우회
• low-data 순차 최적화와 대규모 batch HTE라는 서로 다른 실험 regime 모두에서 검증했다는 점에서 실무 적용 범위를 확장

Limitation & Further Study

• 본문 발췌만으로는 사용된 pre-trained language model의 구체적 종류, LoRA 하이퍼파라미터, 텍스트 인코딩 방식(반응 조건을 텍스트로 변환하는 구체적 스킴)이 명확히 드러나지 않아 재현성 검증이 제한적임
• 벤치마크가 니켈/팔라듐 교차짝지음 및 특정 HTE 플랫폼에 국한되어 있어, 보다 다양한 반응 클래스(예: 비촉매 반응, 다단계 합성)에 대한 일반화 가능성은 추가 검증이 필요
• LLM fine-tuning에 따른 계산 비용 및 학습 안정성(과적합, 소규모 데이터에서의 표현 붕괴 가능성 등)에 대한 논의가 본문 발췌에 명시적으로 나타나지 않음
• 후속 연구로는 더 다양한 반응 유형, 더 큰 규모의 실제 산업 데이터셋, 그리고 해석 가능성(interpretability) 분석 등이 필요할 것으로 보임

Evaluation

총평: 기존 정적 featurisation의 근본적 한계를 짚고 LLM-GP 공동 학습을 통한 동적 표현이라는 실용적이고 확장성 있는 해법을 제시한 견실한 연구로, 제약 공정화학 및 학술 연구 현장에서의 실제 적용 가능성이 높다는 점에서 의미가 크다.