AMP-DiT: Antimicrobial Peptide Design with AMP-classifier Conditional Diffusion Transformers

Motivation

• Known: 기존 AMP 생성 기법들은 AMP-Diffusion처럼 ESM-2 같은 protein language model의 latent space에서 diffusion을 수행하거나, OmegAMP처럼 생성 후 classifier로 필터링하는 방식을 사용해왔다.
• Gap: ESM-2 등은 full-length protein에 학습되어 짧고 조성이 편향된 peptide 분포와 representation mismatch가 발생하며, 대부분의 방법은 activity predictor를 생성 후 필터링에만 사용해 classifier 신호와 정렬된 서열을 직접 생성하지 못한다.
• Why: 항균제 내성(AMR) 문제 해결을 위해 활성이 높은 AMP 후보를 계산적으로 신뢰성 있게 설계하는 것은 실험 검증 전 필수 단계이며, classifier 신호를 생성 과정에 직접 반영하면 post-hoc filtering의 편향 문제를 줄이고 실제 wet-lab 성공률을 높일 수 있다.
• Approach: D3PM 스타일 categorical discrete diffusion을 이산 아미노산 토큰 공간에서 직접 학습시키고, Macrel에서 얻은 AMP probability와 non-hemolytic safety score를 adaLN-Zero 방식으로 DiT-style transformer denoiser에 조건화하여 고활성·저독성 서열 생성을 유도한다.

Achievement

Figure 2. Comparison of AMP generation methods across multiple

1. 표현 불일치 해소: 사전학습 protein language model 없이 peptide-specific 데이터로 직접 학습하여 짧은 서열의 분포 특성을 반영. 2. classifier 조건화 생성: Macrel 기반 조건화로 샘플링 단계에서부터 기능적 품질(항균 활성)을 개선. 3. 일반화 검증: 단일 predictor(Macrel)로 조건화했음에도 AMP-Scanner, ToxinPred, AMPlify, APEX 등 독립적인 다수 AMP classifier 지표에서 향상된 성능을 보여 특정 분류기 overfitting이 아닌 일반적 항균 특성 포착을 시사. 4. 다양성 유지: 거의 모든 AMP-classifier 지표에서 기존 방법 대비 우수한 성능을 내면서도 서열 diversity를 유지.

How

Figure 1. Architecture of AMP-DiT. Peptide sequences are tok-

• 펩타이드를 길이 L의 이산 토큰 시퀀스(20종 아미노산 vocabulary)로 모델링하고 D3PM 방식의 forward categorical noising process(코사인 스케줄 βt, transition matrix Qt)를 적용
• Macrel로 계산한 AMP probability와 non-hemolytic safety score를 conditioning vector c∈R2로 사용
• reverse transition을 DiT-style transformer denoiser fθ(xt, t, c)로 모델링해 clean token logits 예측
• adaLN(및 adaLN-Zero) 레이어로 timestep과 biological conditioning을 각 transformer block의 residual connection 직전 activation에 주입, 각 block을 초기에는 identity function이 되도록 초기화
• 학습은 variational bound term(KL divergence)과 cross-entropy loss를 결합한 hybrid objective(L = λvb·Lvb + LCE)로 진행
• 샘플링은 random uniform discrete noise xT에서 시작해 t=T부터 1까지 reverse transition을 반복 적용, 조건은 c=[1,1](고활성·고안전성)로 고정
• 평가는 Macrel, AMP-Scanner, ToxinPred, HydrAMP-style AMP/MIC, AMPlify, APEX 등 다양한 predictor와 diversity/uniqueness/entropy/k-mer/ModlAMP descriptor, OmegaFold 기반 pLDDT 등 구조적 타당성 지표를 종합적으로 사용

Originality

• 기존 AMP 생성 연구가 ESM-2 등 protein language model latent space 또는 post-hoc classifier filtering에 의존한 것과 달리, discrete diffusion을 통해 이산 시퀀스 공간에서 직접 생성하며 classifier 신호를 생성 과정 자체에 조건으로 내재화
• DiT의 adaLN-Zero 조건화 메커니즘을 생물학적 predictor 점수(AMP probability, non-hemolytic safety score) 조건화에 적용한 시도
• 단일 predictor 조건화가 다수의 독립적 classifier에 걸쳐 일반화됨을 실증적으로 제시하여 conditioning이 단순 overfitting이 아닌 일반적 항균 특성 학습임을 주장

Limitation & Further Study

• 현재 구현에서는 conditioning이 c=[1,1]로 고정되어 있어, 다양한 활성/안전성 수준에 대한 조건부 제어(controllable trade-off) 능력이 검증되지 않음
• 조건화 신호로 Macrel 단일 predictor만 사용했으며, 다른 predictor를 조건으로 사용했을 때의 비교나 앙상블 조건화 효과는 다루지 않음
• 컴퓨테이셔널 classifier 지표들만으로 평가되었고, 실제 wet-lab 항균 활성 검증(실험적 MIC 측정 등)이 부재하여 생성된 서열의 실질적 유효성은 미확인
• 구조적 타당성(OmegaFold pLDDT 등) 및 언어모델 plausibility 평가 결과가 본문 발췌에서 충분히 제시되지 않아 구조적 신뢰도에 대한 결론이 제한적
• 후속 연구로는 조건 벡터를 가변적으로 조절하는 controllable generation, 다중 predictor 앙상블 조건화, 실험적 검증(wet-lab validation)이 필요

Evaluation

총평: ESM-2 기반 latent diffusion에서 벗어나 이산 시퀀스 공간에서 classifier-conditioned discrete diffusion을 적용한 실용적이고 타당한 접근이며, 단일 predictor 조건화의 교차 일반화 결과는 흥미롭지만 고정 조건(c=[1,1])과 wet-lab 검증 부재 등 추가 검증이 필요하다.