Accelerating mathematical research with language models: A case study of an interaction with GPT-5-Pro on a convex analysis problem

Motivation

• Known: 기존 convex analysis 문헌에는 Gangbo(1994)의 (ϕ+th)(x) = ϕ(x) - t h(∇ϕ(x)) + o(t) 같은 Fenchel transform 관련 lemma가 optimal transport 문제(Brenier's theorem 증명 간소화)에 사용되어 왔으며, 이는 Gangbo & McCann(1996)에 의해 c-transform으로 확장되었다.
• Gap: ϕ가 strictly convex일 때 ∇(ϕ+th)** (x) = ∇ϕ(x) + t∇h(x) + o(t) 라는 변형된 lemma는 기존 결과를 단순히 두 번 적용해서는 엄밀하게 유도되지 않으며, convex analysis 문헌에서도 명시적으로 다뤄지지 않은 공백으로 남아 있었다. 또한 GPT-5-pro와 같은 최신 LLM의 수학 연구 보조 능력을 평가할 때, 단일 점수로 요약하기 어렵고 반복적 추론 과정과 실패 모드에 대한 재현 가능한 상세 기록이 부족했다.
• Why: LLM의 추론 능력이 향상됨에 따라 기존의 벤치마크식 평가는 점점 무의미해지고 있으며, 실제 연구 협업 과정에서 LLM이 어떻게 기여하고 어떤 한계를 보이는지에 대한 질적이고 재현 가능한 사례가 향후 AI4Research 방법론 정립에 중요한 참고자료가 될 수 있다.
• Approach: 저자는 GPT-5-pro와 직접 대화하며 convex analysis의 특정 lemma(Proposition 2.1)를 증명하는 실제 연구 과정을 진행하고, 이 상호작용 전체를 기록·분석하는 사례 연구(case study) 방법론을 채택하였다.

Achievement

1. 주요 정리 증명: strictly convex ϕ에 대해 ∇(ϕ+th)**(x) = ∇ϕ(x) + t∇h(x) (오차항 없이 |t|가 충분히 작을 때 정확히 성립)을 증명하는 Proposition 2.1을 확립하였다.
2. 국소성(locality) 이슈 규명: (ϕ+th)가 x 주변에서 convex하지 않을 수 있고 ∇²ϕ가 양의 정부호임이 x 주변에서 보장되지 않음에도 불구하고, x라는 한 점에서의 결과가 성립함을 세밀한 부등식 증명을 통해 보였다.
3. 인간-AI 협업 문서화: GPT-5-pro가 핵심 conjecture 제안 및 중간 lemma 증명을 통해 연구를 가속화했음을 구체적 사례와 함께 기록하고, 색상 구분(파란색: GPT-5-pro 아이디어, 검은색: 저자 아이디어)으로 기여도를 투명하게 표시하였다.
4. 재현성 확보: 전체 대화 로그를 부록에 포함하고 모델의 실수에 대한 주석을 달아, AI 보조 수학 연구의 재현 가능한 workflow 사례를 제공하였다.

How

• Fenchel transform, subdifferential 등 convex analysis의 표준 정의를 사용하여 f = ϕ+th에 대한 국소 하한 부등식을 Taylor expansion(식 7-9)과 Lipschitz 성질(식 10)을 결합해 유도한다.
• 반지름 δ의 공(ball) 내부와 구면(sphere), 그리고 그 외부 영역으로 나누어 각각 f(x+u) ≥ affine 하한을 증명하고, convexity를 이용한 모순 논증(contradiction argument)으로 전체 공간에서의 하한을 확립한다.
• affine envelope로서의 f 특성(Rockafellar, 1970)을 이용해 f(x) = f(x)를 보이고, subdifferential의 성질을 이용해 gradient 등식을 유도한다.
• t_x = min(λ/4L, λδ²/64M) 형태의 명시적 threshold를 계산하여 결과가 성립하는 t의 범위를 정량적으로 특정한다.

Originality

• 기존 optimal transport/convex analysis 문헌에 없던 새로운 형태의 biconjugation operator gradient에 대한 Taylor expansion 결과(식 2)를 제시하고, 오차항이 실제로 0임을 국소적으로 증명한 점이 수학적으로 참신하다.
• 단순한 최종 결과 보고가 아니라, GPT-5-pro와의 실제 대화 전체를 재현 가능한 형태로 공개하고 텍스트 색상으로 기여자를 구분해 인간-AI 협업의 과정 자체를 연구 대상으로 삼은 방법론적 시도가 독창적이다.
• 기존의 벤치마크 기반 LLM 평가(단일 점수화)에 대한 대안으로, 전문가 감독 하의 실제 연구 문제 해결 과정을 질적으로 기록하는 평가 패러다임을 제안한다.

Limitation & Further Study

• 단 하나의 수학 문제와 단 하나의 언어 모델(GPT-5-pro)에 대한 사례 연구이므로, 결과의 일반화 가능성이 제한적이다.
• 질적 사례 연구의 특성상 재현성은 있으나 확장 가능성(scalability)이 낮고, 저자 개인의 주관적 판단에 의존하는 부분이 존재한다.
• 후속 연구로는 다양한 수학 분야와 여러 LLM에 대한 유사한 사례 연구를 축적하여 체계적 비교 분석 및 평가 프레임워크로 발전시킬 필요가 있다.
• GPT-5-pro가 범한 "subtle mistakes"에 대한 구체적 오류 유형 분석이 본문 발췌만으로는 충분히 드러나지 않아, 이 부분에 대한 더 정량적인 분류가 필요할 수 있다.

Evaluation

총평: 수학적 결과 자체는 견고하고 명확하게 증명되었으며, 특히 LLM과의 협업 과정을 투명하게 기록한 방법론적 시도는 AI4Research 커뮤니티에 유의미한 참고 사례를 제공하지만, 단일 사례 연구라는 근본적 한계로 인해 일반화된 결론을 내리기는 어렵다.