The Geometry of Updates: Fisher Alignment at Vocabulary Scale

Motivation

• Known: 전이 예측을 위해 CKA, RSA, SVCCA 같은 representation-similarity metric이 널리 쓰이며, LogME/LEEP 같은 finite-label transferability score는 소규모 output 설정에서 잘 작동한다. 또한 Fisher alignment 같은 classical update-geometry metric은 원칙적으로 전이 유사도를 잘 포착할 수 있다.
• Gap: SMILES, protein, genomic sequence처럼 tokenizer는 공유하지만 prediction target이 다른 활성화-다크(activation-dark) 영역에서는 representation metric이 label-conditioned error geometry에 대한 가정 없이는 비식별적(non-identifiable)이며, classical Fisher 기반 update-geometry metric은 K~10^5 vocabulary scale에서 Γe 계산에 ~61 GiB가 필요할 만큼 계산상 불가능하다.
• Why: shared-vocabulary LLM 계열에서 label 없이도, 그리고 활성화만으로는 구분 불가능한 상황에서도 신뢰성 있게 source selection을 수행할 수 있는 방법은 과학적 문자열 도메인(SMILES, 단백질, 유전체) 적응처럼 데이터가 제한적이고 label 구조가 이질적인 실무 시나리오에서 중요하다.
• Approach: head-level Fisher alignment를 joint (activation, error) 공간의 product-kernel 상에서의 kernel mean embedding 간 cosine으로 재정식화하는 이론적 항등식(Theorem 4.2)을 제시하고, 이를 materialized Fisher matrix 없이 random-feature 기반 single streaming pass로 추정하는 FisherSketch를 설계한다.

Achievement

Figure 2. When Activation Similarity Fails. Activation similarity Scov(Ma) (left) is constant across all verbalizer pair

1. 비식별성 정리(Theorem 3.2): representation-only metric(M)이 동일한 probe 표현(Zi=Zj)을 갖는 두 task를 self-pair와 cross-pair로 구분하지 못함을 증명, disjoint label block 하에서 head Fisher alignment는 0이지만 self-alignment는 1임을 보임.
2. product-kernel cosine 항등식(Theorem 4.2): shared-output head Fisher alignment가 joint activation-error RKHS에서의 kernel mean embedding 간 cosine과 정확히 일치함을 증명, activation/error/coupling factor로 분해 가능.
3. FisherSketch 알고리즘: SRHT 기반 single-pass streaming 추정기로 K=128,256에서 16KB task signature(m=4096)와 192KB per-task streaming state만으로 vocabulary-scale Fisher alignment 추정을 실용화.
4. 실험적 검증: verbalizer-shift 설정에서 activation-only 기준선이 무작위 수준(20% top-1)으로 붕괴하는 반면 FisherSketch는 66.7% top-1을 달성, Llama-3.1-8B 100개 도메인에서 natural shift 상황에서는 activation-only와 경쟁력 있음을 보이고, SMILES 9개 도메인 proof-of-concept에서 FisherSketch가 perplexity 감소와 유의한 상관(ρs=0.53, p=0.006)을 보이는 반면 activation-only는 유의하지 않음(p=0.081).

How

Figure 1. Spearman correlations on ViT-B/16 (same-dataset pairs).

• task를 (x,y) 분포 Dk와 per-example loss로 정의하고, empirical Fisher Fk와 Frobenius 기반 정규화 내적 AF(i,j)를 정의(Hilbert-Schmidt 공간에서의 cosine으로 해석).
• Definition 3.1로 representation-only metric을 형식화하고, shared-output masked-softmax embedding 하에서 disjoint label block을 이용해 Theorem 3.2(비식별성 witness)를 증명.
• Section 4에서 head Fisher alignment를 joint (activation a, error e) feature 상의 product kernel에 대한 kernel mean embedding 간 cosine으로 재작성(Theorem 4.2), materialized Fisher matrix 필요성을 제거.
• FisherSketch: error second moment Γe(≈61 GiB @ K=128,256)를 직접 계산하지 않고, random feature와 SRHT(subsampled randomized Hadamard transform)를 이용해 product-kernel cosine을 single streaming pass로 추정, split-sample streaming state(192KB)와 16KB signature(m=4096) 생성(Appendix R.1).
• 평가: LoRA source selection을 다양한 도메인(ViT-B/16, Llama-3.1-8B 100개 도메인, verbalizer-shift 고정 prefix 분류, 9개 SMILES 분자 도메인)에 대해 top-1 정확도, Spearman correlation(ρs)으로 activation-only baseline과 비교.

Originality

• 기존 CKA/RSA/SVCCA 등 representation-similarity 접근과 달리, error 구조 없이는 head-level transfer를 식별할 수 없음을 최초로 정식 증명(비식별성 witness).
• Fisher alignment를 materialized Fisher matrix 계산 없이 kernel mean embedding 간 cosine이라는 RKHS 관점으로 재정식화한 이론적 항등식(Theorem 4.2)이 독창적이며, 이를 통해 activation/error/coupling factor를 분리 가능하게 함.
• vocabulary scale(K~10^5)에서 실용적인 one-pass streaming 추정기(FisherSketch)를 SRHT와 random feature를 결합해 설계, 16KB/192KB라는 매우 작은 signature/state 크기로 모델 해시 수준의 portability를 달성한 점이 실무적으로 새로움.

Limitation & Further Study

• head-level 비교는 shared output coordinate system(공유 vocabulary 또는 aligned label taxonomy)을 전제하므로, 근본적으로 다른 output space를 가진 task 간에는 적용이 제한적이며 저자들도 이 경우 full-network 또는 internal-layer 비교를 권장함.
• masked-softmax를 이용한 disjoint-label witness는 zero-overlap 극단 상황을 위한 것이며, 실제 transfer benchmark가 이런 극단적 조건에 얼마나 부합하는지는 추가 검증이 필요.
• SMILES 도메인 실험은 9개 도메인에 대한 proof-of-concept 수준이며, protein/genomic sequence에 대한 실제 실험은 본문 발췌에서 명확히 제시되지 않아 일반화 가능성에 대한 추가 검증이 요구됨.
• FisherSketch의 random-feature 근사 오차와 m, K 크기에 따른 추정 분산에 대한 이론적 보장(sample complexity 등)이 본문에서 충분히 다뤄지는지 확인이 필요하며, 후속 연구로 다양한 아키텍처·더 큰 K에 대한 확장성 검증이 필요.

Evaluation

총평: representation metric의 비식별성을 형식적으로 증명하고 이를 극복하는 이론적으로 우아하며 실용적인 vocabulary-scale 추정기를 제시한 견고한 이론+시스템 논문으로, activation-dark 전이 시나리오에 대한 새로운 진단 도구를 제공한다는 점에서 의의가 크다.