Interpretability Driven Evolutionary Approach for the Design of Biological Sequences

Motivation

• Known: 기존 진화적 방법(evolutionary approach)은 순차적 의존성을 무시한 무작위 돌연변이에 의존하여 긴 서열에서 확장성이 떨어지며, RL 기반(DynaPPO, GFN-AL) 및 생성 모델 기반(Dbas, Cbas, GAN, VAE) 방법은 서열 구조를 명시적으로 모델링하지만 목표 특성으로의 생성을 유도하기 위해 많은 수(종종 10^2~10^3 이상)의 oracle 평가가 필요하다.
• Gap: 진화적 접근의 sample efficiency와 RL·생성 모델의 순차적 구조 활용 능력을 결합한 방법이 부재하며, 제한된 oracle 평가 예산 하에서 긴 생물학적 서열을 효과적으로 설계할 수 있는 프레임워크가 필요하다.
• Why: 실제 wet-lab 실험이나 고비용 계산 시뮬레이션에서는 설계 사이클당 수행 가능한 oracle 평가 횟수가 매우 제한적이므로, 적은 평가 횟수로도 효과적인 서열 설계를 가능하게 하는 방법은 단백질·DNA 치료제 및 생명공학 응용에서 실질적 가치가 크다.
• Approach: 설명가능한 모델(XAI)을 통해 고성능 서열 내 위치별 attribution score를 계산하고, 이를 기반으로 critical한 motif를 non-critical 위치로 이식하는 해석 가능한 돌연변이를 수행하는 진화적 active learning 프레임워크를 제안한다.

Achievement

Figure 3. Evolution of the property y as a function of design

1. 설계 가속화: 8개의 연속 속성(continuous-property) 데이터셋, 7개 baseline, 3개의 평가 예산(B=20,50,100) 조건에서 IDEAS가 평균 19%의 설계 가속(design acceleration)을 달성하였다.
2. Pareto 최적 균형: 가속화, 다양성(diversity), 참신성(novelty) 간의 trade-off를 나타내는 Pareto curve 상에서 우수한 위치를 유지하였다.
3. 모듈성 검증: 다양한 faithful XAI 방법들이 plug-and-play 형태로 IDEAS의 돌연변이 전략에 통합될 수 있음을 ablation을 통해 입증하였다.

How

Figure 1. The active learning process of IDEAS. At iteration t, the top-B sequences from Dt−1 form Dtop. An explainable

• 각 iteration t에서 Dt−1 중 상위 B개 서열을 선택하여 Dtop을 구성 (Step 1)
• Dt−1으로 XAI 모델 g(θ)를 학습시켜 예측값 ŷi를 산출하고, gatt를 통해 위치별 attribution score ϕi를 계산 (Step 2)
• 길이 m의 contiguous motif sj를 정의하고, ϕi를 평균하여 motif별 attribution score Ij를 계산, Dtop 전체에서 motif 목록 M을 구축 (반복 motif는 평균으로 병합) (Step 3)
• ψi[j]를 통해 위치별 score를 motif 단위로 변환하고 softmax 형태(temperature τ1)로 확률분포화하여 attribution이 낮은 영역을 확률적으로 선택해 attribution이 높은 motif로 치환하는 해석 가능한 돌연변이 수행 (Step 4)
• 돌연변이된 서열 Dtop_M을 oracle f로 평가하여 Dt−1에 추가, Dt 구성 후 10 라운드 반복

Originality

• 진화적 알고리즘의 무작위 돌연변이 대신 XAI의 attribution score를 활용해 해석 가능하고 정보 기반의 돌연변이를 유도하는 새로운 결합 방식을 제시
• 위치별 attribution을 motif 단위로 집계하고 확률분포화하여 critical 영역을 비-critical 영역으로 이식하는 구체적 메커니즘(Step 1~4) 설계
• 다양한 faithful XAI 기법을 plug-and-play로 교체 가능하게 하여 프레임워크의 모듈성과 일반성을 확보

Limitation & Further Study

• 연속 속성(continuous-property) 데이터셋 8개에 국한되어 평가되었으며, 이산적(discrete) 속성이나 다중 목표(multi-objective) 설계로의 일반화 가능성은 추가 검증이 필요
• motif 길이 m을 도메인 지식에 기반해 수동 설정해야 하며, FLIP 데이터셋 외 대부분에서 m=1로 고정되어 있어 최적 m 선택에 대한 원칙적 기준 부족
• XAI 모델(g)의 신뢰성(faithfulness)에 성능이 크게 의존하므로, XAI 자체의 오류나 편향이 돌연변이 품질에 직접적 영향을 줄 수 있음
• wet-lab 실제 실험을 통한 검증이 아닌 계산적 oracle 기반 벤치마크에 한정되어 있어 실제 생물학적 유효성 검증이 후속 연구로 필요

Evaluation

총평: 해석 가능성과 진화적 탐색을 결합해 제한된 oracle 예산 하에서 생물학적 서열 설계를 가속화하는 실용적이고 참신한 접근으로, 광범위한 실험적 검증이 돋보이나 이산적 속성 및 실제 wet-lab 검증으로의 확장이 향후 과제로 남는다.