FORGE: Fragment-Oriented Ranking and Generation for Context-Aware Molecular Optimization

Motivation

• Known: 기존 chemistry language model 기반 분자 최적화는 입력 분자와 텍스트 설명(prompt)을 조건으로 개선된 분자를 디코딩하는 방식이 주류이며, MMPA나 JT-VAE, GCPN, Modof, Prompt-MolOpt 등은 fragment 편집을 그래프 연산이나 외부 사전으로 하드코딩하고 context에 걸쳐 fragment 통계를 평균화해왔다.
• Gap: 자연어 프롬프트는 실제 black-box oracle(예: ADMET 분류기, 독점 결합 점수)을 충실히 설명하지 못해 프롬프트 제어력이 약하고, LLM-distilled chain-of-thought 데이터는 교사 모델의 화학적 오류(hallucination)를 상속하며, fragment의 property 기여도를 context-free한 전역 스칼라로 표현하는 것은 activity cliff 등에서 핵심 구조 정보를 붕괴시켜 라벨 노이즈를 유발한다.
• Why: 자연어 텍스트 주석에 의존하지 않고도 확장 가능하고 hallucination 없는 fragment 수준의 명시적 supervision만으로 분자 최적화를 수행할 수 있음을 보임으로써, 데이터 스케일링 병목과 신뢰성 문제를 동시에 해결하는 대안적 패러다임을 제시하기 때문에 중요하다.
• Approach: 분자 최적화를 "어디를 편집할지(where)"와 "어떻게 편집할지(how)"의 두 결정으로 명시적으로 분해하고, 이를 자동으로 채굴 및 검증된 low-to-high edit pair 데이터로 학습되는 two-stage 프레임워크(FORGE)로 구현한다.

Achievement

1. Prompt 취약성 실증: PMO의 22개 task에서 Qwen3-30B-A3B를 MOLLEO 탐색 루프에 넣고 프롬프트의 property 설명을 정답/QED/unknown으로 바꿔도 aggregate PMO score 변화가 3% 미만임을 보여, 자연어 프롬프트가 black-box objective를 약하게만 규정함을 실증했다.
2. Context 의존성 정량화: SME+라는 SME의 context-conditioned 확장을 도입해 fragment attribution을 ECFP 환경별로 그룹화하면 두 개의 독립적 predictor(Uni-Mol, ChemBERTa)에서 attribution variance가 8%–11% 감소함을 보여 fragment 효과의 context 의존성을 정량적으로 확인했다.
3. State-of-the-art 성능: Qwen3-0.6B 기반의 원자 단위 tokenization을 갖춘 compact 모델로 Prompt-MolOpt, PMO-1k, ChemCoTBench 전반에서 훨씬 큰 LLM 및 그래프 기반 방법들을 일관되게 능가했다.
4. In-context 적응: inference 시 in-context demonstration만으로 미지의 black-box objective에 gradient 없이 적응 가능함을 보여, 비용이 큰 test-time gradient 업데이트를 회피했다.

How

• Stage 1 (Ranking): 전체 분자 context 하에서 후보 fragment들을 property 기여도 기준으로 ranking하여 편집 위치(where)를 결정하고 chemical prior를 주입한다.
• Stage 2 (Generation): 선택된 위치에 대해 명시적 fragment replacement를 생성한다(how). Rule-based attribution과 predictor-based attribution 신호를 결합한 SME+로 supervision pair를 구성한다.
• 데이터 구축: 사람이 작성한 텍스트 주석 대신 자동으로 채굴되고 검증된 low-to-high edit pair를 rule-based 방식으로 확보하여 학습에 사용, LLM distillation을 배제한다.
• 모델 백본: Qwen3-0.6B를 사용하되 atom-level tokenization을 적용해 fragment identity를 안정적으로 표현한다.
• Inference-time 적응: 미지의 black-box oracle에 대해 in-context demonstration을 탐색 시점에 샘플링하여 조건화한다(gradient-free ICL, MOLLEO/DemoDiff 계열 아이디어 계승).

Originality

• 분자 최적화를 prompt-conditioned generation이 아닌 where-to-edit / how-to-edit의 명시적 two-stage 결정으로 재구성한 프레이밍이 참신하다.
• SME를 context-conditioned 방식(SME+)으로 확장해 global min–max aggregation 대신 within-context binning을 사용, fragment attribution의 context 의존성을 직접 supervision 신호로 활용한 점이 독창적이다.
• 자연어 텍스트/LLM distillation 없이 rule-based로 채굴·검증된 edit pair만으로 학습 데이터를 구성해 데이터 확장성과 hallucination 문제를 동시에 다룬 접근이 실용적으로 신선하다.
• 0.6B의 매우 작은 모델로 8B급 reasoning 모델과 그래프 기반 방법을 능가함을 보여, 모델 크기보다 supervision 신호 설계의 중요성을 실증적으로 부각시켰다.

Limitation & Further Study

• attribution 정의(a(g;x) = f(x) − f(x\g))가 저자들도 인정하듯 local perturbation proxy일 뿐 인과적 효과 추정치는 아니므로, VR(g) 기반 결론의 인과적 해석에는 한계가 있다.
• 프롬프트 취약성 실험이 단일 LLM(Qwen3-30B-A3B)과 단일 탐색 루프(MOLLEO)에 국한되어 있어 일반화 가능성에 대한 추가 검증이 필요하다.
• fragment 분해(decomposition) 방식 자체의 품질과 rule-based edit pair 채굴 과정의 편향이 최종 성능에 미치는 영향에 대한 세부 분석이 발췌 부분에서는 부족하다.
• 실제 신약 개발의 다중 목적(multi-objective) 최적화나 합성 가능성(synthesizability) 등 실무적 제약과의 통합에 대한 논의가 제한적으로 보인다.
• 후속 연구로 SME+의 context binning 세밀도에 따른 민감도 분석, 더 큰 화학 공간에서의 확장성 검증, 그리고 실제 wet-lab 검증과의 연계가 필요해 보인다.

Evaluation

총평: 자연어 프롬프트 의존성의 근본적 한계를 실증적으로 지적하고, fragment 수준의 context-aware supervision으로 이를 대체하는 실용적이고 확장 가능한 프레임워크를 제안한 완성도 높은 연구로, 작은 모델로도 강력한 성능을 보여 분자 최적화 분야에 중요한 대안적 방향을 제시한다.