Ubiquity of Emergent Hebbian Dynamics in Regularized Learning

Motivation

• Known: Hebbian/anti-Hebbian plasticity는 뇌에서 널리 관찰되며, 전통적으로 STDP와 같은 local homosynaptic rule로 설명되고 homeostatic mechanism이 이를 안정화시킨다고 여겨져 왔다. 또한 Hebbian 시그니처의 관찰은 종종 gradient descent 기반 학습이 뇌에서 일어나지 않는다는 간접 증거로 사용되어 왔다.
• Gap: 시냅스 업데이트에서 Hebbian/anti-Hebbian 구조가 관찰된다고 해서 반드시 그 기저에 Hebbian computation이 존재함을 함의하는지에 대한 identifiability 문제가 명확히 다뤄진 적이 없었으며, 기존 연구(Ziyin et al., 2025a)는 weight decay가 Hebbian alignment를 유발할 수 있음을 시사했지만 그 메커니즘이 불명확했고 noise와 anti-Hebbian learning의 연결점도 규명하지 못했다.
• Why: 이 문제는 계산신경과학에서 AI의 gradient descent와 생물학적 뇌의 학습 메커니즘 간 근본적 차이를 규명하는 데 핵심적이며, Hebbian 시그니처를 gradient-based learning 반대 증거로 사용하는 기존 관행에 재고를 요구한다는 점에서 중요하다.
• Approach: 저자들은 stationarity 근처에서 L2 weight decay가 다양한 update rule의 learning-signal 성분을 Hebbian 방향으로 정렬시킨다는 것을 이론적으로 증명하고, stochastic noise가 반대로 anti-Hebbian alignment를 유도하여 weight decay와의 tradeoff 및 phase boundary가 나타남을 규명한다.

Achievement

Figure 3. The diagram on the left shows that the trend of weight decay increasing Hebbian alignment of the learning sign

1. 일반적 근-정류 메커니즘 증명: L2 weight decay가 존재할 때 광범위한 클래스의 learning rule(SGD 포함, 심지어 non-learning/random 규칙까지)의 learning signal이 Hebbian update와 양의 방향으로 정렬되며, 이 정렬이 decay 강도에 따라 단조증가함을 이론적으로 규명하였다.
2. noise 기반 anti-Hebbian 메커니즘 규명: 학습 신호의 stochastic noise가 충분히 강할 경우 anti-Hebbian alignment를 유도하며, weight decay와 noise 사이에 예측 가능한 tradeoff와 regression 세팅에서의 phase boundary가 존재함을 보였다.
3. 폭넓은 실증적 검증: 다양한 task, architecture, learning rule에 걸쳐 이러한 Hebbian/anti-Hebbian 시그니처가 학습이 완전히 종료되기 훨씬 전부터 나타날 수 있음을 실험적으로 검증하였다.

How

Figure 3. The diagram on the left shows that the trend of weight decay increasing Hebbian alignment of the learning sign

• Eq. 1의 hidden layer 모델(hb = W ha(x))과 homosynaptic update rule(∆W = sη hb ha^T)을 기반으로 Hebbian(s=1)/anti-Hebbian(s=-1) 학습을 정의
• 전체 weight update를 learning-signal 항과 weight decay 항으로 분해하고, stationarity 근처에서 두 항이 균형을 이루어야 함을 이론적으로 도출
• weight decay 강도에 따른 Hebbian alignment의 단조성을 증명하고, SGD 및 random/non-learning update rule에도 이 결과가 일반적으로 성립함을 보임
• learning signal에 stochastic noise를 추가하여 anti-Hebbian alignment가 유도되는 조건과 weight decay와의 tradeoff, phase boundary를 regression setting에서 분석
• 다양한 task, architecture, learning rule에 대한 실험을 통해 이론적 예측을 검증하고, transient/nonstationary regime에서도 시그니처가 관찰됨을 확인

Originality

• 시냅스 업데이트의 Hebbian/anti-Hebbian 시그니처가 mechanistic local rule 없이도 emergent하게 발생할 수 있다는 identifiability 문제를 최초로 명시적으로 제기하고 해결책을 제시
• weight decay와 noise라는 규제 요소만으로 SGD를 포함한 임의의 update rule에서 Hebbian/anti-Hebbian alignment가 발생함을 일반적 프레임워크로 증명
• 기존 연구(Ziyin et al., 2025a)의 불명확했던 메커니즘을 규명하고, noise-anti-Hebbian alignment라는 새로운 연결고리를 추가로 발견
• gradient descent와 Hebbian learning이 상호 배타적이지 않고 stationarity 근처에서 수렴할 수 있다는 관점을 제시하여 뇌의 gradient descent 가능성에 대한 기존 반박 논리를 재조명

Limitation & Further Study

• 이론이 주로 stationarity 근처(near-stationarity) 조건에 초점을 맞추고 있어, 학습 초기의 transient regime이나 강한 nonstationary 조건에서의 일반성은 상대적으로 제한적일 수 있음
• 실제 생물학적 시냅스에서 weight decay에 해당하는 정확한 생물학적 대응 기제(homeostatic mechanism)의 강도나 형태가 이론에서 가정한 L2 형태와 얼마나 부합하는지에 대한 실험적 검증이 부족
• 실제 뇌 데이터에서 emergent Hebbian 시그니처와 mechanistic Hebbian computation을 구분할 수 있는 구체적 실험 프로토콜 제안이 아직 이론적 수준에 머물러 있어, 후속 연구로 실제 신경 기록 데이터에 대한 적용 및 검증이 필요함
• 분석이 단순화된 layer 모델과 특정 regression 세팅에 기반하고 있어, 더 복잡한 recurrent나 spiking neural network 등 생물학적으로 더 현실적인 모델로의 확장이 요구됨

Evaluation

총평: Hebbian 시그니처의 identifiability 문제를 새로운 관점에서 제기하고 weight decay와 noise라는 단순하지만 강력한 메커니즘으로 이를 설명한 독창적이고 시사점이 큰 연구이나, 실제 생물학적 검증과 더 복잡한 모델로의 확장이 후속 과제로 남아있다.