Reverse predictivity for bidirectional comparison of neural networks and biological brains

Motivation

• Known: 인공신경망(ANN)이 영장류 뇌의 내부 표현을 포착하는 것을 목표로 하며, 표준 평가는 모델 특징이 신경 반응을 얼마나 잘 예측하는지(순방향 예측성)에 중점을 둔다.
• Gap: 기존 평가 방법은 모델 표현이 신경 활동으로부터 얼마나 예측 가능한지(역방향 예측성)를 검증하지 않아, 높은 순방향 예측성을 가진 모델도 생물학적으로 부적절한 차원을 포함할 수 있다.
• Why: ANN이 단순히 행동을 예측할 수 있다는 것만으로는 뇌와 생물학적으로 타당한 표현을 공유하는지 알 수 없으므로, 양방향 비교를 통해 진정한 신경 대응성을 평가하는 것이 중요하다.
• Approach: Macaque inferior temporal cortex 반응과 ANN 유닛 활성 간의 매핑을 양방향으로 분석하는 reverse predictivity 지표를 개발하고, 원숭이-원숭이 매핑을 기준점으로 사용하여 비대칭성을 검증한다.

Achievement

• Reverse predictivity 지표 도입: 신경 반응에서 ANN 유닛 활성을 예측하는 역방향 예측성을 정량화하는 새로운 진단 메트릭 제안
• 순역방향 비대칭성 발견: 높은 순방향 예측성(~50% 분산 설명)을 가진 모델들도 신경 활동으로부터 예측 불가능한 'unique units'를 포함함을 규명", "Common/Unique units 분류: ANN 유닛을 생물학적으로 대응되는 'common units'와 그렇지 않은 'unique units'로 구분하고, common units가 행동 관련성과 종 간 일반화를 보임을 입증", '영향 요인 규명: Feature dimensionality, training objectives, adversarial robustness 등이 reverse predictivity에 영향을 미치는 요인임을 밝힘

How

• Macaque inferior temporal cortex로부터 기록한 신경 반응 데이터와 다양한 ANN 모델의 유닛 활성화 데이터를 수집
• Linear mapping을 사용하여 신경 반응 → ANN 유닛 활성(역방향)과 ANN 특징 → 신경 반응(순방향)의 예측 성능을 정량화
• 원숭이-원숭이 신경 반응 매핑을 기준점으로 삼아 모델-뇌 매핑의 비대칭성이 진정한 표현 불일치를 반영함을 검증
• 행동 예측 과제를 통해 common units와 unique units의 행동 관련성을 평가
• Feature dimensionality, training objectives(supervised vs unsupervised), adversarial robustness 등 다양한 모델 특성과 reverse predictivity의 관계 분석

Originality

• 기존 순방향 예측성 중심의 평가 패러다임에서 벗어나 양방향(bidirectional) 비교 프레임워크 제안
• 역방향 예측성이라는 새로운 진단 지표를 통해 모델의 '생물학적 타당성'을 더 엄격하게 평가할 수 있는 방법론 개발", '원숭이-원숭이 매핑을 정규화 기준점으로 사용하여 모델 평가의 객관성 강화
• Common/Unique units 분류와 행동 관련성 분석을 통해 생물학적으로 의미 있는 ANN 특징과 부속(spurious) 특징을 구분

Limitation & Further Study

• Macaque inferior temporal cortex에만 초점을 맞추어 다른 뇌 영역이나 종에 대한 일반화 가능성 미제시
• Linear mapping 기반 분석으로 인한 비선형 관계의 손실 가능성
• 신경 반응 데이터의 신호-잡음비와 샘플링 편향이 reverse predictivity 평가에 미칠 수 있는 영향에 대한 상세 분석 부족
• 실제 뇌 회로의 동적 특성과 신경조절 메커니즘을 정적 활성화 패턴으로만 포착하는 한계
• 후속 연구: 다른 시각 피질 영역(V4, V1 등)과 비시각 감각 양식으로의 확장, 동역학적 신경 활동 모델링, 더 생물학적으로 타당한 신경망 아키텍처 개발

Evaluation

총평: Reverse predictivity는 신경과학과 AI 모델 비교 평가의 패러다임을 전환하는 중요한 개념으로, 기존 순방향 예측성만으로는 놓칠 수 있는 생물학적 부적절성을 체계적으로 드러낸다. 명확한 방법론과 설득력 있는 실증 결과로 다음 세대 생물학적으로 타당한 신경망 개발을 위한 중요한 지침을 제공한다.