Contrastive learning for antibody-antigen sequence-to-specificity prediction

Motivation

• Known: 항체-항원 특이성 예측은 생물의약품 발견과 면역 레퍼토리 프로파일링에서 핵심 병목이다. 최근 ALphaFold 3, Boltz-2 등의 구조 기반 설계 프레임워크와 ESM-2, AntiBERTy 등의 단백질 언어 모델이 발전했으나, 서열만으로 양방향 binding specificity를 직접 학습하는 통합 프레임워크는 부재한다.
• Gap: 기존 구조 기반 생성 시스템(RFdiffusion, BoltzGen 등)과 단백질 언어 모델은 개별 서열 모델링에 강하지만, 항체와 항원을 단일 sequence-native 시스템에서 binding specificity 학습과 레퍼토리 규모의 검색을 동시에 수행하는 접근법이 부족하다.
• Why: Immune Specificity Foundation Model (ISFM)은 therapeutic discovery와 immune diagnostics를 혁신할 수 있다. 레퍼토리 규모에서 작동하고 미소 항원을 넘어 일반화하며 배포 시 구조 추론 없이 작동할 수 있는 sequence-only 기초 모델이 필요하다.
• Approach: CALM은 CLIP 패러다임에 영감받은 dual-encoder contrastive 아키텍처로 설계되었다. AntiBERTy와 ESM-2로 초기화된 항체(paratope)와 항원(epitope) 인코더를 contrastive objective로 학습하여 true binder 쌍을 임베딩 공간에서 가깝게, non-binder 쌍을 멀리 배치한다. 또한 cross-attention decoder를 통한 autoregressive 생성 확장을 제안했다(향후 구현 예정).

Achievement

Fig 1. Schematic of CALM (Cross‑attention Adaptive Immune Receptor–Antigen Language Model) architecture.

항체-항원 co-embedding 구현: dual-encoder contrastive stage를 완전 구현하여 양방향 검색(Ab→Ag, Ag→Ab) 지원. 유출 통제 평가: SAbDab 4,138개 쌍 중 5Å 거리 기반 binding-site mask 생성, MMseqs2 클러스터링으로 80% 동일성 누출 통제 테스트 세트 구성. 성능: 80% 동일성 클러스터 누출 통제 평가에서 평균 R@1 7% 달성, 양방향 성능 일관성 확인. 구조 설계: decoder stage 개념적 프레임워크로 향후 epitope mapping과 조건부 설계 가능성 제시.

How

Fig 2. Dataset curation and preprocessing. Ab–Ag complex structures were extracted from SAbDab. Complexes were

• AntiBERTy와 ESM-2 pre-trained 모델로 서열 임베딩 생성 후 마지막 hidden layer에서 추출. - 구조 파일로부터 BioPython 기반 5Å 거리 threshold로 paratope/epitope 마스크 생성. - MMseqs2로 항원 서열 동일성 기준(40%, 60%, 80%) 클러스터링 실시. - Contrastive learning objective로 true binder 쌍을 공유 임베딩 공간에 정렬.

Originality

• CLIP 패러다임의 면역 도메인 적용: vision-language co-embedding을 항체-항원 서열에 최초로 적용하여 sequence-native dual-encoder 설계. - 양방향 binding specificity: 종래의 단방향 Ab→Ag 또는 구조 기반 생성 중심에서 벗어나 Ag→Ab 검색도 동등하게 지원. - 유출 통제 클러스터 기반 평가: 80% 동일성 threshold로 training 단계에 미포함된 novel antigen 클러스터 기준 엄격한 평가 설계.

Limitation & Further Study

제한사항: - R@1 7%는 실무 적용 기준(예: 진단, 치료제 설계)에 비해 낮으며, 상위-k 검색(R@5, R@10) 성능 미제시. - 4,138개 쌍은 proteome/repertoire 규모 대비 제한적이며, 구조 주석 의존성으로 인해 확장성 제약. - Proposed decoder stage는 미구현으로 생성 능력 미검증; contrastive retrieval만 평가됨. - 항원 종류(바이러스, 종양 항원 등) 및 항체 세부 특성(affinity, somatic mutation 수준) 별 성능 분석 부재. 후속 연구: - 대규모 데이터셋과 구조 미주석 서열 통합. - Decoder 구현 및 조건부 생성 평가. - 미소 항원(novel epitope) 일반화 능력 향상.

Evaluation

총평: CALM은 contrastive learning으로 항체-항원 sequence-to-specificity 예측의 기초를 구축한 의미 있는 연구이다. 양방향 검색과 유출 통제 평가 설계가 견고하며 ISFM 개념을 구체화했으나, R@1 7%의 낮은 절대 성능과 미구현 decoder, 제한된 데이터셋 규모는 실무 적용 전에 해결이 필요하다. 부호가(Immune Specificity Foundation Model) 개발 방향 제시로서의 가치는 높다.