AI for Scientific Discovery is a Social Problem

Motivation

• Known: AlphaFold, GNoME, Insilico Medicine의 ISM001-055, NeuralGCM 등 AI가 단백질 구조 예측, 신물질 발견, 신약 개발, 기후 모델링 등에서 이미 상당한 성과를 거두었다는 것은 잘 알려져 있다. 그러나 이러한 성과는 데이터 인프라가 잘 갖춰지고 연구 커뮤니티가 잘 조직된 소수 분야에 집중되어 있다.
• Gap: 기존 논의는 제한된 데이터, 파편화된 표준, 계산 자원 접근의 불평등 같은 기술적 장벽에 주로 초점을 맞춰왔으나, 자율적 "AI scientist" 서사, 데이터·인프라 노동의 저평가, 유인 구조의 오정렬, 도메인 전문가와 머신러닝 연구자 간의 간극 같은 사회적·제도적 요인은 상대적으로 충분히 다뤄지지 않았다.
• Why: AI for science의 실질적 파급력과 민주화 여부는 결국 기술 혁신만으로는 해결되지 않으며, 커뮤니티 구축, 학제 간 교육, 공유 벤치마크, 접근 가능한 인프라 등 사회적 조건이 선행되어야 한다는 점에서 연구 정책과 자원 배분 방향에 중요한 시사점을 준다.
• Approach: 저자들은 여러 도메인(단백질 구조 예측, 신약 개발, 기후 모델링 등)의 사례와 과학사·과학철학 문헌을 인용하여, 예측 정확도와 과학적 이해(설명력)를 구분하는 개념적 프레임을 제시하고, 네 가지 상호 연결된 사회적 장벽을 식별하는 분석적·논증적 접근을 취한다.

Achievement

Figure 1: Predictive accuracy without mechanistic understanding. This figure from [112] contrasts the

1. 예측 정확도와 과학적 이해의 구분: Newtonian mechanics를 학습하지 못한 채 행성 궤도를 정확히 예측하는 transformer 기반 모델 사례(Figure 1)를 통해, 높은 예측 성능이 반드시 기제적 이해나 과학적 발견을 의미하지 않음을 명확히 함.
2. 네 가지 장벽의 체계화: 커뮤니티 기능 장애, 연구 우선순위와 상류(upstream) 필요 간의 불일치, 데이터 파편화, 인프라 불평등이라는 네 가지 상호 연결된 사회적 장벽을 제시하고 각각의 근본 원인이 사회적·제도적임을 논증함.
3. "AI scientist" 서사 비판: OpenAI, Anthropic, Google DeepMind 등의 자율적 "AI scientist" 담론이 실제로는 문헌 검색과 요약에 치중되어 있으며, 이것이 실험적 검증과 데이터 큐레이션 등 기여를 저평가하고 잘못된 귀속(attribution) 패턴을 재생산함을 Rosalind Franklin 사례 등을 들어 비판함.
4. 해결책 제시: 학제 간 협업과 교육 강화, 공유 벤치마크를 통한 상류 문제의 구조화, 과학 데이터 관행의 표준화, 지속 가능한 커뮤니티 소유 인프라 구축 등 구체적 정책 제안을 제시함.

How

Figure 1: Predictive accuracy without mechanistic understanding. This figure from [112] contrasts the

• 다양한 과학 분야(단백질 구조, 재료과학, 신약개발, 기후모델링)에서의 AI 성공 사례를 문헌 조사를 통해 개관함
• 과학적 발견을 예측 정확도와 구별되는 다차원적 개념(설명적 통찰, 실험적 검증, 이론 통합, 접근성)으로 정의함
• Figure 1의 사례 연구(transformer 기반 foundation model의 행성 궤도 예측)를 통해 예측-이해 간극을 시각적으로 논증함
• 과학사·과학철학·과학사회학(Callon 등) 문헌을 인용해 커뮤니티 역학과 귀속 문제를 분석함
• 네 가지 장벽(커뮤니티 기능장애, 우선순위 오정렬, 데이터 파편화, 인프라 불평등)을 각각의 하위 절에서 사례와 함께 상세히 논의함(발췌 부분에서는 첫 번째 장벽인 커뮤니티 기능장애, 특히 "AI scientist" 신화 부분을 상세히 다룸)

Originality

• AI for science 담론을 순수 기술적 문제가 아니라 사회학적·제도적 문제로 프레이밍하는 관점 전환이 상대적으로 드문 시도임
• 실리콘밸리 빅테크(OpenAI, Anthropic, Google DeepMind)의 "AI scientist" 마케팅 서사를 과학사(Rosalind Franklin 사례)와 연결하여 노동 저평가 및 귀속 문제로 비판적으로 재해석함
• 예측 정확도와 과학적 이해를 구분하는 다차원적 성공 기준을 제시하여 AI for science 평가 프레임을 확장함

Limitation & Further Study

• 포지션 논문 특성상 경험적 데이터나 정량적 검증 없이 문헌 인용과 사례 논증에 크게 의존하여 주장의 일반화 가능성이 제한적임
• 제시된 해결책(학제 간 교육, 공유 벤치마크, 커뮤니티 인프라)이 다소 추상적이며 구체적 실행 방안이나 우선순위, 자원 배분 메커니즘에 대한 구체성이 부족함
• 서구 중심(주로 미국 빅테크 기업) 사례에 치중되어 있어, 글로벌 남반구나 비영어권 과학 커뮤니티의 인프라 불평등에 대한 구체적 분석이 상대적으로 부족할 수 있음
• 후속 연구로는 제안된 해결책의 실제 적용 사례 연구나, 학제 간 협업 성공/실패 요인에 대한 실증적 조사가 필요함

Evaluation

총평: AI for science 분야에서 간과되기 쉬운 사회적·제도적 차원을 체계적으로 조명한 시의적절하고 설득력 있는 포지션 논문으로, 실증적 깊이는 제한적이나 분야 전체의 담론 전환에 기여할 만한 가치가 있다.