PlasmidLM: A Promptable DNA Language Model via Verifiable-Reward Post-Training

Motivation

• Known: Nucleotide Transformer, DNABERT-2, HyenaDNA 같은 discriminative genomic LM은 생성 인터페이스가 없고, Evo 2 같은 대규모 생성 모델은 species tag 정도의 제한적 prefix conditioning만 지원하는 sequence completer이다. 짧은 regulatory element(5′-UTR, enhancer, promoter 등)에 대한 conditional generator는 존재하지만 ∼100-1,000bp 수준에 국한된다.
• Gap: Multi-kilobase 전체 construct 단위에서 origin, selection marker, regulatory cassette, payload가 동시에 조화롭게 배치되어야 하는 coordination constraint를 다루는 promptable DNA 생성 모델이나 이를 평가할 표준화된 faithfulness 지표가 부재했다.
• Why: 합성생물학의 cloning, 항원 설계, 유전자치료 벡터 조립, CRISPR guide-vector 파이프라인 등 실제 설계 작업은 명세를 서열로 변환하는 능력을 요구하는데, 기존 genomic LM은 이를 네이티브하게 지원하지 못하므로 이 gap을 메우는 것이 실질적 응용 가치가 크다.
• Approach: Addgene의 실제 plasmid와 lab-supplied metadata, pLannotate 자동 주석 파이프라인을 이용해 prompt-sequence pair 데이터셋을 구축하고, 이를 이용해 사전학습 후 GRPO로 660-entry sequence motif registry 기반 verifiable reward를 통해 post-training하는 접근을 취한다.

Achievement

1. Promptable DNA generation 모델 제시: 19.3M-parameter PlasmidLM이 named-part token 집합 프롬프트로부터 단일 autoregressive pass로 multi-kilobase construct를 생성.
2. 평가 프레임워크 정립: viable/faithful 분해와 이들의 conjunction인 useful-plasmid rate를 660-entry motif registry에 기반해 정의.
3. Verifiable-reward post-training 효과 입증: GRPO를 평가와 동일한 registry로 post-training에 사용해 single-shot 및 best-of-K decoding 전반에서 useful-plasmid rate를 향상, held-out 1,000-prompt benchmark에서 single-shot 48.5%, best-of-4 89.7% 달성.
4. 모델·평가 스위트·벤치마크 공개: 19.3M-parameter 모델, 평가 도구, prompt-sequence pair 벤치마크를 릴리스.

How

• Addgene 저장소에서 108,468개 unique prompt-sequence pair를 20,644개 plasmid ID, 5,124개 unique prompt로부터 구성(deduplication, length filtering 적용).
• 95%/5% random split(seed 42)으로 103,045개 training, 5,423개 validation pair 분리, pretraining과 disjoint한 22,400개 prompt-sequence pair를 별도 holdout으로 확보.
• pLannotate 파이프라인으로 origin, selection marker, regulatory element, reporter 등 component를 자동 검출하여 구조적 plausibility(viable)와 prompt-component 일치(faithful)를 평가.
• 660-entry sequence motif registry를 통해 named-part token을 구체적 sequence-level reference에 매핑하고, 이를 GRPO의 verifiable reward로 사용해 post-training 수행.
• single-shot 및 best-of-K(K∈{1,2,4}) sampling, oracle ranker를 이용한 평가로 useful-plasmid rate 측정.

Originality

• 기존 DNA 생성 모델이 제공하지 못한 human-readable component specification 기반 promptable 인터페이스를 multi-kilobase plasmid construct 수준에서 최초로 제시.
• 텍스트 LM의 supervised-then-RL post-training 패러다임(instruction tuning + GRPO)을 DNA 도메인, 특히 전체 construct 생성 문제에 적용한 최초 시도.
• 평가에 사용한 것과 동일한 pLannotate/motif registry 파이프라인을 verifiable reward로 재사용함으로써 측정 대상 속성 자체를 강화하는 self-consistent 설계.
• viable/faithful 분해 및 useful-plasmid rate라는 promptable DNA 생성 고유의 평가 지표 체계를 새로 정립.

Limitation & Further Study

• 19.3M-parameter의 비교적 소규모 모델로, Evo 2 등 대규모 genomic LM 대비 표현력과 일반화 한계가 있을 수 있음.
• pLannotate 기반 자동 주석에 의존하는 reward/평가 체계는 주석 파이프라인 자체의 오류나 커버리지 한계에 취약할 수 있음(예: COPY_LOW 실패 사례처럼 특정 조건에서 성능 저하).
• Addgene 기반 데이터로 학습되어 실제 wet-lab 검증 없이 in silico viable/faithful 판정에 의존하므로, 실제 기능적 발현이나 클로닝 성공 여부와의 상관관계는 추가 검증이 필요.
• best-of-4 등 sampling budget 증가에 의존한 성능 향상이 실사용 환경(연산 비용, 실시간 설계)에서 갖는 실용성에 대한 논의가 제한적이며, 후속 연구로 실험적 검증(wet-lab validation) 및 더 큰 스케일·다양한 organism으로의 확장이 필요.

Evaluation

총평: DNA 생성 모델에 텍스트 LM의 promptable instruction-following 패러다임과 verifiable-reward RL post-training을 결합해 multi-kilobase plasmid construct 생성이라는 실질적 문제를 다룬 참신하고 잘 설계된 연구로, 평가 지표와 벤치마크 공개를 통해 후속 연구 기반을 마련한 점이 인상적이다.