InstructNA leverages nucleic acid large language models with HT-SELEX for de novo generation of functional nucleic acids

Motivation

• Known: 단백질 설계는 ESM, AlphaFold 등 LLM 기반 도구로 큰 성과를 이뤘으나, 핵산 설계는 3D 구조 데이터 부족과 높은 구조 유연성으로 인해 진전이 제한되었다. RaptGen, AptaDiff 같은 딥러닝 모델도 목표 특화 SELEX 데이터에만 학습되어 포괄적 서열-기능 관계를 학습하지 못했다.
• Gap: NA-LLM을 HT-SELEX 데이터로 계속 학습(continual pretraining)하고 이를 기능 최적화와 연결하는 체계적 프레임워크가 부재했다. 또한 잠재공간에서의 효율적 최적화 알고리즘이 미개발 상태였다.
• Why: 기능적 핵산은 분자 진단, 치료제, 생물센서 등 다양한 응용이 가능하며, 성능 향상은 실제 임상 및 산업 적용의 핵심이다. 대규모 언어 모델과 고처리량 실험 데이터의 결합은 생물분자 설계 패러다임의 혁신을 시사한다.
• Approach: InstructNA는 5단계 프레임워크를 제시한다: (1) HT-SELEX 서열 수집 (2) DNABERT를 FNA 서열로 continual pretraining (3) 경량 decoder 학습 (4) HC-HEBO 알고리즘으로 잠재공간 최적화 (5) 실험 검증 및 반복. HC-HEBO는 hill climbing으로 HEBO의 전역 최적화 경향을 제한해 국소 영역에서 높은 기능성을 확보한다.

Achievement

Fig. 2 | Generating aptamer binders with InstructNA. a, Schematic showing

• TF-binding DNA 생성 성능: 10개 전사인자(TF) 데이터셋 모두에서 RaptGen 대비 우수한 AUROC, F1, accuracy, precision, recall 달성 (Klf12, Sox10 제외 모두 우수)
• 압타머 결합 강도: 2개 단백질 표적에 대해 HT-SELEX 대비 100%, 200% 많은 강결합 압타머 도출, 기존 압타머와의 서열 유사도 38% 수준으로 높은 다양성 확보
• 표현 학습 효율성: InstructNA가 DNABERT, RaptGen 대비 k-mer (k=3-6) 모티프와 G/C 함량에서 우수한 서열 특징 학습 및 생성
• 견고성: 표현 섭동(perturbation) 상황에서도 우수한 성능 유지, 잠재공간 noise에 대한 강건성 입증

How

Fig. 1 | Overview of the InstructNA framework. a, Architecture of the InstructNA

• Domain-adapted FNA-LLM encoder: 기존 NA-LLM(DNABERT)을 HT-SELEX 서열 데이터로 continual pretraining하여 FNA 특화 의미론적 표현 학습
• Lightweight decoder: encoder의 잠재 표현을 FNA 서열로 복원하도록 학습
• HC-HEBO 최적화: Hill climbing으로 HEBO의 검색 공간을 seeding 서열 표현 주변의 국소 영역으로 제한, 기능성과 서열 다양성 균형 달성
• Generation-evaluation closed-loop: 생성 서열의 실험 검증 결과를 다시 학습에 피드백, 대리함수(surrogate function) 반복 개선
• Binary classification by k-mer: 중앙값 기반 binding specificity 점수로 high/low binding 라벨링, linear probing으로 표현 해석
• Robustness assessment: KDE 기반 표현 섭동으로 생성 서열의 k-mer 모티프 및 G/C 함량 평가

Originality

• NA-LLM과 HT-SELEX의 통합 프레임워크: 단백질 설계의 성공 패러다임을 핵산 영역으로 체계적으로 확장, continual pretraining과 기능 최적화의 폐루프 구축
• HC-HEBO 알고리즘 개발: 전역 최적화 편향을 제거하고 국소 최적값 탐색으로 실제 기능성 향상 달성, Bayesian optimization의 창의적 변형
• 구조 정보 제거: 3D 구조 예측이나 물리화학적 제약 조건 없이 순수 서열 정보와 기능 데이터만으로 설계, 핵산의 높은 유연성 특성 활용
• 광범위한 FNA 유형 적용: TF-binding DNA, 단백질-결합 압타머 등 다양한 FNA 유형에 동일 프레임워크 적용 가능함을 입증

Limitation & Further Study

• 계산 비용 분석 부재: HC-HEBO 반복 최적화의 computational complexity와 실행 시간 상세 분석 미제공
• 외부 데이터셋 검증 부족: 공개 SELEX 데이터셋이 아닌 저자의 HT-SELEX만 사용, 독립적 벤치마크 데이터에서의 성능 미평가
• 최적화 초기값 의존성: Seeding strategy가 최적화 결과에 미치는 영향 분석이 Supplementary Note 7에만 제시됨
• 생물학적 역할 검증 제한: Binding affinity 측정에만 집중, 압타머의 특이성, 세포 투과성, 혈청 안정성 등 실제 응용성 평가 부족
• 모델 일반화 한계: 10개 TF 데이터셋은 특정 생물 환경, 새로운 표적 단백질 또는 RNA 압타머 설계에의 일반화 가능성 미검증
• 후속 연구 방향: (1) 더 큰 규모 HT-SELEX 데이터셋 수집 및 다중 목표 최적화 (2) 구조-기반 제약 조건 점진적 통합 (3) RNA 압타머 및 DNAzyme 설계로의 확장 (4) 실제 치료제 후보군 개발 및 임상 전 평가

Evaluation

총평: InstructNA는 NA-LLM과 HT-SELEX 데이터의 창의적 결합으로 기능적 핵산 설계의 새로운 패러다임을 제시한다. HC-HEBO 알고리즘과 폐루프 최적화를 통해 100~200% 향상된 성능을 입증했으나, 외부 데이터셋 검증과 임상 응용성 평가가 추가되면 영향력이 더욱 강화될 것이다.