Self-Revising Discovery Systems for Science: A Categorical Framework for Agentic Artificial Intelligence

Motivation

• Known: Scientific discovery에서 AI의 역할이 증대하고 있으며, 현재 대부분의 agentic AI 시스템은 고정된 scientific vocabulary 내에서 최적화와 재조합에 탁월하다. Kuhn의 paradigm shift와 Lakatos의 research programme이 발견 과정을 설명하는 기존 철학적 틀이다.
• Gap: 기존 agentic discovery 시스템은 고정된 representational regime 내에서의 최적화에는 능하지만, vocabulary 자체를 변경하는 regime transition을 형식적으로 모델링하고 검증하는 방법이 부족하다. Retrieval, search, discovery를 구조적으로 구별하는 엄밀한 framework이 필요하다.
• Why: Scientific discovery의 본질은 단순히 새로운 답을 찾는 것이 아니라 evidence, artifacts, operations, verifiers를 분류하는 representational regime 자체를 수정하는 것이다. 이를 형식화하는 것은 자기수정형 discovery system의 설계, 검증, 감사, 진전 측정에 핵심적이다.
• Approach: Schema를 artifact type과 allowed operations의 category Sb로 정의하고, 현재 artifact population을 copresheaf It : Sb → Set로 모델링한다. 고정-regime 업데이트는 endofunctorial 동역학으로, regime transition은 검증된 함수 u : Sb → Sb'로 표현하며, 새로운 타입으로 전송된(transported) artifact와 post-transition state를 비교하여 residual content를 식별한다.

Achievement

Figure 10: CategoryScienceClaw fiber-network mechanics figure. The figure renders the typed path from a fiber-network

주요 기여들:

• Formal semantics: typed artifact state를 copresheaf로, realized provenance를 category of elements로 정의하여 knowledge, computation, verification, rejection, public discourse를 하나의 proof-carrying knowledge–computation graph로 통합.
• Regime distinction: fixed-regime endofunctorial updates와 verified regime transitions를 명확히 구분하여 각각의 검증 및 감사 전략 수립.
• Materialization 1 (Builder/Breaker): protein mechanics world model을 MDL gate 아래에서 수정하며, within-chain flexibility를 slow collective-mode participation으로 조건화된 mode-conditioned compliance로 표현.
• Materialization 2 (CategoryScienceClaw): typed skills, artifacts, open needs, workflow mutation, gates, stress tests를 fiber-network 예시에서 구현하여 candidate models, rejected alternatives, AIC gate, perturbation tests을 추적.

How

Figure 6: Inner MDL-guided search within a discovery iteration (data from [10]). (A) Hill-climb frontier: total descript

• Category-theoretic formalization: artifact types와 operations를 schema category Sb로, evidence-based artifact population을 copresheaf It로 표현.
• Functorial preservation: regime transition 시 기존 artifacts를 Lanu transport로 이동시키고 새로운 state와 비교하여 functorial transport를 초과하는 residual content 식별.
• MDL-guided discovery: Builder/Breaker에서 Minimum Description Length를 gate로 사용하여 model revision의 경계 설정.
• Knowledge–computation graph: typed provenance를 executable proof-carrying graph로 구축하여 schema revision, verification, rejection을 통합.
• Stress testing and perturbation: new hypothesis를 multiple proteins, perturbation tests, alternative models로 검증.

Originality

• Novel framework integration: Category theory를 scientific discovery의 형식 언어로 사용하여, 哲學的 개념(paradigm shift, research programmes)을 operational problem으로 변환하는 독창적 관점.
• Distinction formalization: Retrieval, search, discovery의 구조적 차이를 처음으로 수학적으로 엄밀하게 정의.
• Mechanics-informed AI design: Mechanical systems의 state, load, instability, multiscale transfer 개념을 AI discovery 설계에 역방향으로 적용.
• Proof-carrying knowledge graph: 기존 knowledge graphs와 달리 verification, rejection, schema revision을 포함한 실행 가능한 graph 구조.

Limitation & Further Study

• Abstraction-implementation gap: Category theory의 고도 추상성으로 인해 실무적 구현과의 간격이 크며, 두 materialization만으로는 framework의 generality가 완전히 증명되지 못함.
• Scalability concerns: MDL gate와 stress tests의 computational cost, 복잡한 regime transitions의 실제 실행 비용이 분석되지 않음.
• Limited experimental validation: protein mechanics와 fiber-network 예시만 제시되어 chemistry, drug discovery, materials design 등 다른 영역에서의 적용성 불명확.
• Verification of regime transitions: new regime이 "correct"임을 보장하는 formal verification mechanism의 부재; residual content의 의미와 처리 방식이 완전히 명확화되지 않음.
• Scalability of provenance tracking: large-scale discovery 시 category of elements의 크기 및 computation 복잡도 문제 미해결.

후속 연구 필요:

• Multiple domain으로의 generalization 및 systematic comparison.
• Computational overhead 정량화 및 optimization.
• Formal verification framework for regime transitions.
• Interactive human-AI collaboration in regime transition 모델.

Evaluation

총평: 본 논문은 scientific discovery를 regime transition으로 형식화하는 강력한 category-theoretic framework를 제시하며, agentic AI의 근본적 한계(fixed vocabulary 내 최적화)를 명확히 지적한다. 두 materialization과 mechanics-informed design이 framework의 실용성을 입증하지만, 추상성이 높아 다양한 과학 영역으로의 확장성과 계산 비용에 대한 검증이 필요하다. 이론적 엄밀성과 혁신성이 높으나 empirical validation의 범위가 제한적이다.