LatentChem: From Textual CoT to Latent Thinking in Chemical Reasoning

Motivation

• Known: 기존 화학 LLM들은 분자 특성 예측, 반응 예측 등 복잡한 추론 문제를 풀 때 explicit Chain-of-Thought(CoT)를 통해 화학적 논리를 이산적인 자연어 토큰 시퀀스로 선형화하여 처리하는 방식이 지배적이다. 또한 Coconut과 같은 generic latent reasoning 기법들이 존재하여 연속 latent space에서 추론을 수행하지만, 분자 임베딩을 정적 컨텍스트로 고정해 사용한다.
• Gap: 자연어가 전자 비편재화, 입체 장애 같은 연속적이고 고차원적인 물리화학적 직관을 표현하기에 적합한 매체인지 검증되지 않았으며, 이산 토큰으로 강제 discretize하는 것이 "modality mismatch"를 유발해 추론을 비효율적으로 만들 가능성이 있다. 기존 latent reasoning 연구도 분자 표현을 동적으로 갱신하지 못해 substructure에 따른 구조 인식(reasoning) 능력이 제한된다.
• Why: 화학적 추론이 자연어 기반 CoT보다 연속적인 latent dynamics로 더 자연스럽고 효율적으로 구현될 수 있음을 실증적으로 보이면, 화학 LLM의 추론 패러다임 자체를 재고할 필요가 있으며 추론 비용과 정확도를 동시에 개선할 수 있는 새로운 설계 방향을 제시하게 된다.
• Approach: latent thought vector와 perception 사이를 동적으로 연결하는 ChemUpdater 메커니즘을 갖춘 latent reasoning interface인 LatentChem을 도입하고, explicit CoT로 초기화한 뒤 format/validity/correctness만을 보상으로 하는 강화학습(outcome-only optimization)을 통해 모델이 텍스트 추론과 latent 추론 중 무엇을 선호하는지 관찰한다.

Achievement

Figure 4. Case study: spontaneous internalization vs. explicit CoT. While the standard CoT model generates verbose reaso

1. spontaneous internalization 현상 발견: outcome-only RL 최적화 하에서 모델이 명시적 CoT를 자발적으로 버리고 대부분의 과제에서 연속 latent thought로 추론을 collapse시키는 emergent behavior를 관찰했다.
2. 성능 우위 입증: ChemCoTBench에서 강력한 explicit CoT baseline 대비 59.88%의 non-tie win rate를 달성했다.
3. 효율성 대폭 개선: 모든 벤치마크에서 평균 10.84배의 reasoning step overhead 감소(5.96배 wall-clock speedup)를 달성했으며, 분자 최적화 및 반응 과제에서는 28배를 초과하는 감소를 보였다.
4. 다양한 벤치마크에서 검증: ChemCoTBench, Mol-Instructions, ChEBI-20, ChemLLMBench 4개 벤치마크에서 일관되게 정확도와 토큰 효율성을 동시에 개선함을 확인했다.

How

• latent thinking architecture: perception과 generation 사이에 continuous thought vector 시퀀스를 삽입하여 reasoning을 언어 생성으로부터 분리하는 구조적 기반을 마련
• ChemUpdater 메커니즘: latent thought들이 각 스텝마다 분자 표현(molecular representation)을 능동적으로 re-query하고 refine하도록 하여 dynamic perception-reasoning loop를 구성, 정적 컨텍스트로 고정하는 기존 latent reasoning(Coconut 등)과 차별화
• 학습 절차: explicit CoT 데이터로 초기화 후, format adherence·validity·correctness에 대해서만 보상을 부여하는 강화학습을 적용하여 모델이 텍스트 vs latent 추론 중 자유롭게 선택하도록 유도
• 평가: ChemCoTBench, Mol-Instructions, ChEBI-20, ChemLLMBench 네 벤치마크에서 explicit CoT baseline과 성능 및 reasoning step/wall-clock 효율을 비교, causal necessity analysis(Figure 5) 및 budget stress test(Figure 6), t-SNE를 통한 latent dynamics 시각화(Figure 7)로 현상을 심층 분석

Originality

• 화학 추론에 특화된 latent reasoning 패러다임을 최초로 체계화하고, explicit CoT의 필요성 자체에 의문을 제기하는 관점을 제시
• 정적 컨텍스트만 다루던 기존 generic latent reasoning(Coconut 등)과 달리, latent thought가 매 스텝 분자 표현을 능동적으로 재조회·정제하는 ChemUpdater를 통한 dynamic perception loop를 도입
• outcome-only RL 하에서 모델이 명시적 텍스트 추론을 자발적으로 포기하고 latent 연산을 선택하는 spontaneous internalization 현상을 실증적으로 발견 및 정의

Limitation & Further Study

• latent reasoning의 해석 가능성(interpretability) 상실이 본질적 한계로, 중간 추론 과정을 사람이 검증하거나 디버깅하기 어려워 안전성이 중요한 화학 응용(예: 위험 물질 합성 경로)에서는 신뢰성 검증이 어려울 수 있음
• spontaneous internalization이 특정 모델 크기, 특정 RL reward 설계, 특정 초기 CoT 데이터 분포에 의존적인 현상인지, 보다 일반적인 아키텍처·태스크로 확장 가능한지에 대한 추가 검증 필요
• ChemCoTBench 등 특정 벤치마크에 국한된 win rate 평가로, 실제 wet-lab 실험이나 novel chemical space로의 일반화 성능에 대한 검증이 부족함
• 후속 연구로 latent thought의 부분적 해석 가능성을 확보하는 방법(예: probing, 시각화 고도화)이나 latent-text hybrid reasoning 전략에 대한 탐구가 필요

Evaluation

총평: 화학 LLM 추론에서 자연어 CoT의 필요성에 근본적 의문을 제기하고, ChemUpdater 기반 dynamic latent reasoning으로 정확도와 효율성을 동시에 개선한 흥미로운 emergent behavior 연구로, 해석 가능성 트레이드오프에 대한 후속 논의가 필요하지만 임팩트가 큰 기여로 평가된다.