From General-Purpose to Disease-Specific Features: Aligning LLM Embeddings on a Disease-Specific Biomedical Knowledge Graph for Drug Repurposing

Motivation

• Known: 기존 약물 재창출 방법들은 행렬 인수분해, 네트워크 전파(random walk), GNN 기반 접근법 등을 사용해왔으나, 일반용도 LLM의 풍부한 의미 정보를 충분히 활용하지 못하고, 다중 모달 특징 통합 메커니즘이 부족하며, 단백질 수준 신호를 누락하고, 질환 특화 맥락 부재라는 한계가 있다.
• Gap: 기존 계산 약물 재창출 방법들은 (a) LLM의 생물의학적 의미 정보를 충분히 활용하지 못함, (b) 약물-단백질 상호작용, 질환-단백질 연관성 등 단백질 수준 신호 누락, (c) 호환되지 않는 고차원 임베딩 공간을 통합할 강력한 메커니즘 부재, (d) 다질환 벤치마크로 인해 질환 특화 신호 희석 등의 문제로 약물 재창출 정확성이 제한된다.
• Why: 약물 개발은 13년 12억~30억 달러가 소요되므로 약물 재창출을 통한 비용·시간 절감이 중요하며, 특히 알츠하이머병 같은 퇴행성 신경질환은 FDA 승인 약물로 신규 적응증 발굴이 임상적으로 중대하다. 질환 특화 지식 그래프와 LLM 임베딩의 정렬을 통해 생물학적 신뢰성 있는 임베딩 공간을 확보하면 희소 데이터 환경에서 약물 재창출 예측 정확도를 향상시킬 수 있다.
• Approach: CLEAR 프레임워크는 다음과 같이 구성된다: (1) ADRD 특화 지식 그래프 구축 - FDA 승인 약물 2,285개, 신경퇴행성 질환 912개, 치료 표적 단백질 4,042개를 노드로 포함하는 attributed graph 생성, (2) 다중 모달 LLM 특징 초기화 - MoLFormer(약물 SMILES), BioBERT(질환 기술), ESM-2(단백질 서열) 사용, (3) 주의 기반 그래프 신경망으로 LLM 임베딩을 KG 위상 구조에 정렬, (4) 질환-약물 연관성 예측, (5) 생물학적 일관성 검증 및 후보 약물 우선순위화.

Achievement

Fig. 3 | CLEAR aligns feature space to validate relationships of five FDA-approved AD drugs:

주요 성과: 1) 벤치마크 평가 - 5개 약물-질환 연관성 예측 과제에서 최첨단 성능 달성, F1 score 최대 30% 향상. 2) 생물학적 일관성 - CLEAR가 학습한 임베딩 공간이 생물학적으로 일관성 있으며, FDA 승인 AD 약물들의 알려진 치료 관계를 정확히 재구성. 3) 약물 재창출 후보 - ADRD(알츠하이머병, 파킨슨병 관련 치매, Lewy body 치매) 약물 재창출 후보를 효과적으로 식별 및 우선순위화. 4) 일반화 가능성 - 심혈관질환, 자가면역질환, 대사질환 등 다양한 질환 범주에 확장 적용 가능함을 제시.

How

Fig. 3 | CLEAR aligns feature space to validate relationships of five FDA-approved AD drugs:

• 다중 모달 LLM 특징(MoLFormer, BioBERT, ESM-2)을 단일 지식 그래프로 통합하여 호환되지 않는 고차원 공간의 정렬 문제 해결. • 주의 메커니즘 기반 그래프 신경망을 사용하여 약물-질환-단백질 간 비선형 위상 관계 학습. • ADRD 특화 지식 그래프 구축으로 일반용도 LLM 임베딩에 질환 특화 맥락 주입. • 벤치마크 데이터셋 5개와 ADRD 실제 응용 사례를 통해 성능 검증. • 알려진 약물-질환 연관성과 문헌 검색으로 생물학적 일관성 확인.

Originality

• 일반용도 LLM 임베딩과 질환 특화 지식 그래프 위상을 정렬하는 novel framework 제안으로, 기존의 LLM 또는 KG 중 하나를 선택적으로 활용하는 방식을 넘어 통합적 접근 제시. • 약물(MoLFormer), 질환(BioBERT), 단백질(ESM-2) 노드에 각각 최적화된 LLM 모델을 적용하는 다중 모달 특징 초기화 전략은 기존 AMVL 등과 달리 생물학적 entity별 맞춤형 표현 제공. • 주의 기반 그래프 신경망으로 일반용도 임베딩의 차원 호환성 문제를 해결하면서 질환 특화 신호를 부호화하는 메커니즘은 novel한 융합 방식.

Limitation & Further Study

한계: (1) ADRD 특화 지식 그래프에만 적용되었으며, 다른 질환 범주(심혈관질환 등)에서 일반화 성능 미검증. (2) 벤치마크 데이터셋 외에 ADRD 실험이 공개 임상 시험 데이터 등 독립적 외부 검증 부족. (3) 주의 메커니즘의 해석 가능성 분석(attention weight 분석) 미제시로 모델 투명성 제한. (4) 계산 복잡도 및 확장성(약물·질환·단백질 수 증가 시)에 대한 분석 부재. (5) 사용된 LLM 모델(BioBERT, ESM-2 등) 버전 및 학습 데이터의 시간적 편향이 결과에 미치는 영향 미검토. 후속 연구: (1) 다양한 질환 범주에 대한 CLEAR 프레임워크 적용 및 일반화 성능 평가. (2) 임상 시험 단계 약물 데이터를 활용한 외부 검증. (3) 주의 스코어 분석을 통한 해석 가능성 강화. (4) 더 최신의 LLM 모델(GPT-4 기반 임베딩 등) 통합 검토.

Evaluation

총평: 본 논문은 일반용도 LLM 임베딩과 질환 특화 지식 그래프를 주의 기반 그래프 학습으로 통합하는 CLEAR 프레임워크를 제안하며, 5개 벤치마크에서 최첨단 성능(F1 score 최대 30% 향상)을 달성하고 알츠하이머병 약물 재창출에 생물학적으로 일관성 있는 결과를 제시한다. 다중 모달 표현 융합과 질환 특화 맥락 주입의 novel 메커니즘, 높은 기술적 건전성, 임상 적용 잠재력 등이 강점이나, 다질환 범주에 대한 일반화 검증 부족과 해석 가능성 제한이 보완 필요하다. 전체적으로 약물 재창출 연구에 실질적 기여를 하는 가치 있는 논문이다.