Why AI cannot do good science without humans

Motivation

• Known: 최근 Nature에 발표된 두 연구(Robin과 Co-Scientist 프로젝트)는 AI 에이전트가 자동으로 다단계 워크플로우를 네비게이션하며 문헌 검색, 가설 형성, 데이터 해석을 수행할 수 있음을 보여주었다. 이는 약물 발견 시간을 200배 단축하는 등 인상적인 성과를 달성했다.
• Gap: AI가 과학 연구를 완전히 자동화할 수 있을지, 그리고 효율성이 반드시 더 깊은 통찰로 이어지는지 명확하지 않다. AI의 할루시네이션(데이터 조작), 오해석, 그리고 윤시적 판단 능력의 부족이 해결되지 않고 있다.
• Why: AI 과학자의 부상으로 인해 인간 과학자의 역할이 축소될 가능성이 제기되고 있으며, 이는 과학 공동체와 사회에 중대한 영향을 미칠 수 있다. 인간의 지혜, 공감 능력, 그리고 비효율성이 과학 진보에 얼마나 중요한지 재검토할 필요가 있다.
• Approach: 두 사례 연구(Robin 및 Co-Scientist)를 분석하여 AI의 능력과 한계를 실증적으로 평가하고, 인간과 AI의 협력 모델의 필요성을 논거로 제시한다. 또한 과거의 이분법적 사고(Max Perutz의 질문)를 재구성하여 균형잡힌 관점을 제안한다.

Achievement

• AI 에이전트의 강력한 실행 능력: Robin은 건성 나이관련황반변성 치료제 개발 시간을 200배 단축했으며, Co-Scientist는 백혈병 치료제 재창출과 간섬유증 약물 표적 발굴에 성공했다
• 인간-AI 협력의 실증적 검증: 두 프로젝트 모두 인간의 지도, 실험 수행, 결과 검증을 통해서만 성공적인 결과를 도출했다
• 기존 과학 난제 해결: Co-Scientist가 10년간 미해결 상태였던 박테리아 항생제 내성 유전자 패턴에 대해 인간 과학자와 동일한 가설을 며칠 내에 도출했다
• AI 시스템의 한계 명확화: 다중 AI 에이전트의 조율, 할루시네이션 감지, 윤리적 감시의 필요성이 현실적 과제로 드러났다

How

• AI 에이전트(Robin, Co-Scientist)가 학술 문헌을 자동으로 검색하여 치료 전략과 가설 도출
• 인간 과학자가 AI가 제안한 실험을 실제로 수행하고 결과를 피드백
• AI가 인간의 피드백을 기반으로 데이터를 재분석하고 후속 연구 설계
• 인간이 AI의 출력을 검증하여 데이터 조작, 오해석, 부적절한 데이터 사용 감시
• 인간 연구자가 가설 우선순위 설정과 연구 방향 결정에 참여

Originality

• Max Perutz의 1989년 질문('Is Science Necessary?')을 재프레이밍하여 현대적 AI 논의에 적용하는 창의적 관점 제시", 'AI 효율성과 과학적 통찰의 구분: 효율성 증가가 반드시 깊은 이해로 이어지지 않음을 강조
• 인간의 '지저분함(messiness)', 호기심, 장난기, 실패 경험이 과학 발전에 기여하는 무형 자산임을 학술적으로 인정", '이분법적 AI 담론(낙관론 vs 비관론)을 거부하고 균형잡힌 협력 모델을 제안

Limitation & Further Study

• 기술적 미해결 문제: 완전 자율형 AI 과학자 구현을 위한 다중 에이전트 조율, 초점 유지, 효율적 협력 메커니즘이 아직 미흡
• AI의 인식론적 한계: 약물 개발의 모든 단계를 AI가 수행할 수 있는지 확실하지 않으며, 할루시네이션과 오해석 문제가 완전히 해결되지 않음
• 과학 문화적 손실 가능성: 인간 과학자의 실패 경험, 경험적 지혜 축적, 다음 세대 훈련 역할이 축소될 위험
• 후속연구 제안: AI 에이전트의 장기 작업 안정성 및 집단 의사결정 메커니즘 연구; 인간-AI 협력의 최적 지점 규명; 과학 윤리와 AI 시스템의 통합 방안 모색

Evaluation

총평: 이 편집평은 AI 과학의 인상적 성과를 인정하면서도, 인간의 지혜와 감시 없이 과학이 성공할 수 없음을 설득력 있게 주장한다. AI 낙관론과 비관론 사이의 균형잡힌 입장으로 과학 공동체에 중요한 메시지를 전달한다.