After science

Motivation

• Known: 계산 과학의 등장 이후 AI와 머신러닝이 과학 발견의 중심 엔진이 되었으며, AI-주입 과학(AI-infused science)은 인간의 이해를 바탕으로 제어력을 증진시켜왔다. 현재 대규모 언어 모델(LLM)과 강화학습의 발전으로 최소한의 인간 개입으로 과학 생산이 가능해지고 있다.
• Gap: AI가 제어 능력은 급증하면서도 인간이 이를 이해하지 못하고, AI 기반 과학 연구가 주제를 협소화하며, AI 시스템에 호기심이 부재하고, 다양한 연구 방법론이 소수의 지배적 설계(transformers 등)로 수렴될 위험이 있다.
• Why: AI가 주도하는 과학에서 인간의 호기심과 창의성이 상실되면 과학적 진보가 정체될 수 있으며, 방법론의 단일화는 현재 AI가 학습하지 못한 문제 해결 능력을 제한한다. 따라서 지속 가능한 과학 발전을 위해서는 인간의 개입과 다양성이 필수적이다.
• Approach: Ted Chiang의 SF 서사에서 착상하여 과학 역사에서 이해와 제어의 관계 변화를 추적하고, 현재 AI 과학의 특성을 분석한 후, 호기심 있는 알고리즘 개발과 방법론적 다양성 보존이라는 두 가지 해결책을 제시한다.

Achievement

• 과학 패러다임의 역사적 분석: 계몽주의 이후 이해와 제어의 결합이 과학의 핵심이었으나, AI 시대에 이 둘이 분리될 수 있음을 보여줌
• '과학 이후' 개념의 정의: 인간 이해 없이 제어만 추구하는 새로운 과학 시대의 도래를 명확히 규정", 'AI 기반 과학의 잠재적 위험 도출: 방법론의 단일화(monoculture), 호기심 부재, 주제 협소화의 세 가지 핵심 문제 제시
• 지속 가능성을 위한 구체적 처방: 호기심을 갖춘 알고리즘 개발과 학제적 다양성 보존의 필요성을 강조

How

• 과학사에서 이해와 제어의 비율 변화를 시대별로 추적 (선사시대 → 계몽주의 → 계산 과학 → AI-주입 과학)
• 현존하는 AI 과학의 성공 사례(단백질 구조 예측, 지진 이론, 위상수학 등)와 한계를 분석
• 인간 과학의 성공 원인으로서 다양성과 호기심의 역할을 철학·사회학적으로 해석
• 기계 해석 가능성(mechanistic interpretability) 연구의 현황을 검토
• 역사적 과학 위기 극복 사례를 통해 미래 대응 방안 도출

Originality

• SF 문학(Ted Chiang)을 과학 철학의 진지한 대상으로 활용한 창의적 접근
• 인간 과학이 '다양성'을 통해 발전했다는 점을 메타-논증으로 제시하여, AI 시대의 다양성 보존이 필수적임을 역설", 'AI의 성공 자체가 과학의 퇴행을 초래할 수 있다는 역설적 진단
• 호기심을 기계에 부여하는 것이 과학적 과제라는 새로운 문제 설정

Limitation & Further Study

• 구체적인 기술적 해결책 부재: 호기심을 AI에 어떻게 실장할 것인가에 대한 실질적 방안이 미흡
• 실증적 증거 부족: AI 기반 연구가 주제를 협소화한다는 주장이 정량적 데이터로 뒷받침되지 않음
• 방법론적 다양성 보존의 실현 메커니즘 불명확: 시장 경제와 효율성 추구 속에서 구체적으로 어떻게 다양성을 보존할 것인가 불분명
• AI 시스템의 설계 책임 구조와 거버넌스 논의 부재
• 후속 연구로는 호기심 있는 알고리즘의 프로토타입 개발, 학제적 다양성 지표의 개발, 과학 생태계의 구조적 개혁 방안 제시가 필요

Evaluation

총평: 이 논문은 AI가 과학을 지배하는 미래에 대한 정교한 철학적 진단을 제공하며, 호기심과 다양성을 통한 지속 가능성이라는 핵심 메시지를 설득력 있게 제시한다. 다만 기술적 실현 방안과 실증적 증거 보강이 시급하다.