Fragment and Geometry Aware Tokenization of Molecules for Structure-Based Drug Design Using Language Models

Motivation

• Known: 구조기반 신약설계는 전통적으로 높은 처리량의 가상 스크리닝과 실험 검증에 의존해왔다. 최근 자동회귀 모델과 diffusion 모델들이 원자 수준의 생성을 시도했으나 효율성이 낮다. 단편기반 방법들이 제안되었지만 복잡한 파이프라인을 필요로 한다. 언어모델은 다양한 분야에서 우수한 성능을 보였으나 SBDD에의 적용은 미흡하다.
• Gap: 기존 언어모델 기반 방법들은 2D 분자만 고려하거나 3D 기하학적 구조를 별도의 신경망으로 처리한다. SBDD에 언어모델을 직접 적용하면서 3D 기하 정보를 보존하고 단편기반 생성을 수행하는 방법이 부족하다.
• Why: 언어모델은 큰 데이터셋을 효율적으로 처리하고 diffusion 모델보다 빠르며, 생화학 문헌에서 학습한 지식을 활용할 수 있다. 단편기반 생성은 더 현실적인 부분구조를 생성하고 생성 단계를 줄일 수 있다. 단백질-리간드 상호작용을 정확히 포착하는 것이 약물 설계의 핵심이다.
• Approach: 회전가능 결합을 절단하여 3D 분자를 단편으로 분해하고, SE(3)-동변 지역 프레임을 구성하여 3D 단편과 SE(3)-불변 시퀀스 간의 일대일 대응을 만든다. 미리 학습된 inverse folding 모델로부터 단백질 포켓 임베딩을 추출하여 언어모델의 cross-attention 메커니즘으로 통합한다.

Achievement

Figure 4: Visualization of our generated 3D molecules that have higher binding affinity than the

• Binding 친화도 최적화: Vina 점수에서 기준 방법들을 초과하여 약물유사 리간드 생성
• 화학 특성 개선: QED 및 Lipinski 지표에서 우수한 성능
• 계산 효율성: 원자기반 자동회귀 및 diffusion 기준 대비 최대 약 300배 속도 향상
• 생성 품질: 표적 단백질에 대한 높은 결합력을 가진 3D 분자 생성 실증

How

Figure 3: Illustraions of equivariant local frames. Left: If the molecule is translated and rotated, the

• 회전가능 결합 식별: (1) 환이 아님, (2) 단일결합, (3) 결합 양 끝 원자의 차수 > 1 조건 적용
• SE(3)-동변 지역 프레임 구성: 분자와 단편 프레임을 정의하여 기하 정보 보존
• 순서화: 정규 SMILES 표현의 출현 순서에 따라 단편 정렬
• 단백질 조건부 통합: inverse folding 모델에서 단백질 포켓 임베딩 추출 후 cross-attention으로 통합
• 생성 전략: 단편별 순차 생성으로 언어모델의 자동회귀 특성 활용

Originality

• SE(3)-동변성과 불변성을 결합하여 3D 기하 정보를 토큰화하는 새로운 접근
• 단편기반 생성과 언어모델을 최초로 결합하여 SBDD에 적용
• 기존 2D 중심의 화학 언어모델 패러다임에서 벗어나 3D 구조를 직접 처리
• Pre-trained inverse folding 모델과 언어모델의 효과적인 통합 전략

Limitation & Further Study

• 제한사항: 회전가능 결합 기반 분해는 특정 분자 구조에 한정되며, 고도의 환형 시스템을 포함한 분자에서 성능 미검증. 단편 순서의 정규 SMILES 의존성이 최적 생성 순서를 보장하지 않음.
• 후속 연구: 더 다양한 분자 분해 전략 탐색, 대규모 3D 분자 데이터셋에 대한 사전학습 효과 검토, 단백질 포켓 특성에 따른 조건부 생성 정교화, 생성 다양성과 안정성 개선

Evaluation

총평: 본 논문은 SBDD 분야에 언어모델을 적용한 참신한 접근법을 제시하며, SE(3)-동변 프레임을 통한 3D 기하 보존 및 단편기반 생성의 조합으로 기존 방법 대비 우수한 성능과 효율성을 달성한다. 다만 분자 분해 전략의 일반화 가능성 검증과 더 복잡한 분자 구조에 대한 성능 평가가 필요하다.