Multimodal Crystal Flow: Any-to-Any Modality Generation for Unified Crystal Modeling

Motivation

• Known: 기존 결정 생성 모델은 diffusion 또는 flow 기반으로 CSP나 DNG 등 특정 작업에 특화되어 별도로 학습되어야 했으며, Wyckoff position과 같은 구조적 템플릿을 통해 결정학적 대칭성을 반영하는 방법들이 제안되어 왔다.
• Gap: 서로 다른 결정 생성 작업(CSP, DNG, 원자 유형 생성 등) 간에 crystal representation을 공유하는 통합 프레임워크가 부재하여, 작업마다 별도의 모델 학습이 필요하고 표현을 재사용할 수 없다는 한계가 있다.
• Why: 단일 모델로 여러 결정 생성 작업을 수행할 수 있다면 재학습 없이 유연한 조건부 생성이 가능해지고, 배터리 전해질이나 촉매 등 차세대 기능성 소재 발굴에서 DFT 계산 비용을 절감하면서도 다양한 시나리오에 대응할 수 있는 실용적 이점을 제공한다.
• Approach: atom type과 crystal structure 각각에 독립적인 flow time 변수(t, s)를 도입해 (t, s) 평면 상의 서로 다른 추론 궤적(inference trajectory)으로 CSP, DNG, 원자 유형 생성을 표현하는 multimodal flow model을 제안하고, DiT 아키텍처에 composition- 및 symmetry-aware atom ordering과 계층적 permutation augmentation을 결합해 결정학적 대칭성에 대한 inductive bias를 부여한다.

Achievement

Figure 4. Distributions of crystallographic symmetry properties. MCFlow better captures crystallographic symmetry distri

1. 통합 multimodal flow 프레임워크 제안: 원자 유형과 결정 구조에 대해 시간 축을 분리한 joint probability path를 설계하여, 관측된 모달리티를 고정한 채 나머지를 샘플링하는 any-to-any 조건부 생성을 가능케 했다.
2. 명시적 구조 템플릿 없는 대칭성 반영: composition- 및 symmetry-aware atom ordering과 inter/intra-orbit 계층적 permutation augmentation을 통해 Wyckoff position 등의 별도 템플릿 모듈 없이도 DiT가 조성적·결정학적 사전 지식을 데이터로부터 내재화하도록 했다.
3. 단일 모델로 다중 작업 경쟁력 확보: MP-20, MPTS-52 벤치마크에서 단일 MCFlow 모델이 CSP, DNG, 구조 조건부 원자 유형 생성 각각에 특화된 baseline들과 견줄 만한 성능을 보였다.
4. 원자 유형 치환(substitution) 응용 제시: 구조 조건부 원자 유형 생성을 확장하여, 알려진 사이트의 원자 유형은 고정하고 목표 사이트만 샘플링하는 atom type substitution을 동일한 학습된 모델로 수행할 수 있음을 보였다.

How

Figure 2. Composition- and symmetry-aware atom ordering with hierarchical permutation augmentation. Atoms in the primiti

• 결정을 원자 유형 A ∈ ZN+ 와 구조 X = (F, Ll, La) (분수 좌표, Niggli-reduced 격자 길이, 각도)로 표현하고, 각각에 독립적인 flow 시간 변수 t, s ∈ [0,1]를 부여
• 독립 결합(independent coupling) π(A0, X0, A1, X1) = p0(A0, X0)p1(A1, X1) 하에서 modality-wise conditional path를 marginalize하여 joint probability path pt,s(At, Xs) 정의
• (t, s) 평면에서 특정 궤적을 선택함으로써 CSP(t=1 고정, s를 0→1 적분), 원자 유형 생성(s=1 고정, t 적분), DNG(t,s를 대각선 방향으로 함께 적분) 등의 작업을 실현
• diffusion transformer(DiT) 아키텍처를 기반 모델로 채택
• 전기음성도(electronegativity)와 Wyckoff position 기준 사전순(lexicographic) 정렬을 통한 composition- 및 symmetry-aware atom ordering 도입
• 대칭적으로 동등한 orbit 간(inter-orbit) 및 orbit 내(intra-orbit) 순열에 대해 불변성을 강제하는 hierarchical permutation augmentation 적용
• MP-20, MPTS-52 벤치마크에서 CSP, DNG, 구조 조건부 원자 유형 생성 성능을 task-specific baseline들과 비교 평가

Originality

• 결정 생성이라는 도메인에 modality별 독립 시간 축을 갖는 multimodal flow 패러다임(Multiflow, Rojas et al. 2025 계열)을 확장 적용하여, 주기적 경계 조건과 결정학적 대칭성이라는 crystal 고유의 어려움을 다룬 점이 독창적이다.
• 명시적 구조 템플릿(Wyckoff 생성 모듈, ASU 조건화 등) 없이, 순서화(ordering)와 augmentation만으로 대칭성을 soft inductive bias 형태로 주입한 접근은 기존 template 기반 방법들과 차별화된다.
• 하나의 학습된 모델에서 (t,s) 궤적 선택만으로 CSP, DNG, 원자 유형 생성, 나아가 원자 치환까지 다양한 작업을 통합 처리하는 프레임워크를 제시한 점이 참신하다.

Limitation & Further Study

• 명시적 구조 템플릿을 사용하는 방법들 대비 대칭성 반영이 soft bias에 의존하므로, 엄격한 crystallographic constraint 만족 여부에 대한 이론적 보장이 부족할 수 있다.
• 평가가 MP-20, MPTS-52라는 비교적 제한된 벤치마크에 국한되어 있어, 더 크거나 복잡한 결정계, 또는 다성분계에 대한 일반화 성능 검증이 추가로 필요하다.
• independent coupling 가정 하의 joint probability path 설계가 modality 간 상관관계를 얼마나 잘 포착하는지, 그리고 integration step 수에 따른 성능-비용 trade-off(Figure 3 관련)에 대한 심층 분석이 더 필요해 보인다.
• 후속 연구로는 더 다양한 모달리티(예: 자성, 전자구조 등) 통합, 대규모 데이터셋으로의 확장, 그리고 엄격한 대칭 보장을 위한 이론적 분석이 고려될 수 있다.

Evaluation

총평: 결정 생성의 여러 하위 작업을 하나의 multimodal flow model로 통합한다는 아이디어가 명확하고, 구조 템플릿 없이 대칭성을 반영하는 atom ordering·augmentation 설계가 실용적이며, MP-20/MPTS-52 실험 결과도 task-specific baseline과 경쟁력이 있어 결정 생성 모델링의 통합화 흐름에 의미 있는 기여를 하는 논문이다.