Cognitio emergens: Agency, dimensions, and dynamics in human-ai knowledge co-creation

Motivation

Known: AlphaFold의 단백질 구조 예측 개선, Google의 AI Co-Scientist, SakanaAI 등 AI가 과학 지식 창출의 상위 파트너로 역할하고 있음
Gap: 기존 프레임워크는 AI를 정교한 도구(tool) 또는 잠재적 위험으로만 위치시키며, 인간-AI 상호작용을 통해 지식이 어떻게 창발하는지 설명하지 못함. 마이크로 상호작용과 매크로 구조의 단절, 시간적 근시안(temporal myopia), 정적 에이전트 가정의 문제 존재
Why: 현재 조직 구조와 거버넌스는 인간-AI 팀을 수용하기 위해 설계되지 않았으며, 연구자들은 추적할 수 없는 상호작용에서 나온 통찰을 설명할 수 없음
Approach: Autopoiesis 이론, 사회 시스템 이론, 조직 모듈성 이론을 통합하여 인간-AI 협력의 공진화 특성을 포착하는 통합 프레임워크 제시

인간-AI 협력을 위한 천체 은유

Agency Configurations 모델: Directed(지시적), Contributory(기여적), Partnership(파트너십) 세 가지 모드를 통해 인간과 AI 사이의 권위 분배 방식을 모델링. 파트너십이 선형 진행이 아닌 동적 진동(oscillation)을 한다는 통찰 제공
Epistemic Dimensions 체계: Discovery(발견), Integration(통합), Projection(투영) 세 축을 따라 여섯 가지 능력을 포착하여 각 파트너십의 고유한 "능력 서명(capability signature)"을 형성. 이를 통해 전략적 발전 방향 제시
Partnership Dynamics 규명: Epistemic alienation(해석적 통제 상실)을 포함한 파트너십 진화의 기회와 취약성을 식별. 인간이 공식적으로 지지하는 지식에 대한 해석 소유권을 잃는 현상 분석
다층적 적용 가능성: 연구자(차원 불균형 진단), 기관 지도자(다중 거버넌스 구조 설계), 정책입안자(성능 지표 초월 평가 개발)를 위한 실용적 도구 제공

Autopoiesis 통합: 인지 시스템 간의 재귀적 상호작용이 구조적 결합(structural coupling)을 통해 창발 속성을 생성하는 방식 모델링
사회 시스템 이론: 인간 연구자와 AI를 운영적으로 별개이지만 소통적으로 결합된 인지 틀로 취급
조직 모듈성 이론: 모듈 간 인터페이스 설계가 지식 흐름과 인식론적 발전에 미치는 영향 분석
종단적 분석: 단일 세션 스냅샷이 아닌 진화 궤적(evolutionary trajectories)을 추적
가치 공동구성: 인식론적 가치가 상호작용을 통해 협력적으로 어떻게 협상되고 재형성되는지 명시적으로 다룸
사회기술적 관점: 기술적 역량과 사회 구조의 상호 구성(mutual constitution) 통합

구체적 사례 부족: 논문이 개념적 프레임워크 제시에 중점을 두고 있어 구체적인 과학 사례의 상세한 분석이 제한적. AlphaFold, AI Co-Scientist 등의 예를 통한 실증적 검증 필요
구현 지표의 불명확성: Epistemic Dimensions의 여섯 가지 능력을 실제로 어떻게 측정하고 모니터링할 것인지에 대한 구체적 방법론 부족
권력 역학의 심화 분석 필요: 기관 거버넌스와 규제 제약이 Agency Configuration의 선택에 어떻게 영향을 미치는지 더 상세히 분석 필요
시간 스케일의 명시화: 파트너십의 "동적 진동"이 어떤 시간 스케일에서 발생하는지, 어떤 조건에서 변화하는지 정교한 규명 필요
후속 연구 방향:
- 장기 종단 연구: 실제 인간-AI 협력 팀의 진화를 12-24개월 추적
- 비교 사례 분석: 다양한 과학 분야(단백질 구조, 화학 발견, 이론 물리학 등)에서 에이전시 구성과 인식론적 차원의 실증적 비교
- 거버넌스 모델 설계: 다중 에이전시 구성을 지원하는 제도적 구조의 구체적 설계 안 개발