From AGI to ASI

Motivation

• Known: AGI 달성의 가능성이 현실화되면서 그 이후의 AI 발전 궤적에 대한 학문적 논의는 기존 초지능(superintelligence)에 대한 투기적 논의에서 벗어나 기술적 경로 분석으로 전환되어야 한다는 인식이 형성되었다. 또한 compute growth의 역사적 추세(hardware improvements, investment growth, algorithmic efficiency)에 기반한 정량적 예측이 가능하다는 이해가 확립되었다.
• Gap: AGI에서 ASI로의 전환 과정을 구체적으로 분석한 체계적 연구가 부족했으며, 특히 각 기술적 경로의 실현 가능성, 상대적 확률, 그리고 상호작용을 정량화하려는 시도가 미흡했다. 또한 scaling law가 인간 수준 이상의 영역에서도 적용 가능한지, 어떤 마찰 요인이 실제로 진행을 제약할 수 있는지에 대한 구체적 증거가 제한적이다.
• Why: AGI 달성이 먼 미래의 추측이 아닌 수십 년 내의 현실적 가능성으로 대두되면서, 그 이후의 AI 발전 방향은 기술, 경제, 정책, 안전 등 다양한 분야의 의사결정에 직결된다. 따라서 AGI-to-ASI 전환의 가능한 경로들을 사전에 체계적으로 매핑하고 잠재적 병목을 파악하는 것은 전략적으로 중요하다.
• Approach: 보고서는 Universal AI의 이론적 프레임워크를 기초로 하여 AGI와 ASI의 개념적 특성화를 수행한다. 그 후 네 가지 기술적 경로(AGI scaling, AI paradigm shifts, recursive improvement, large-scale multi-agent collectives)를 구분하고, 각 경로에 따라 발생할 수 있는 마찰 요인(bottlenecks)들을 체계적으로 분석한다. 과거 compute growth의 세 가지 구성 요소(hardware improvements, investment growth, algorithmic efficiency)의 역사적 추세 분석을 통해 미래 진행 속도에 대한 정량적 맥락을 제공한다.

Achievement

주요 성과:

• AGI와 ASI의 명확한 개념화: 인간 수준 지능 이상의 "대규모 인간 조직 이상의 인지 능력을 가진 시스템"으로서의 ASI에 대한 명확한 특성화 제시
• 네 가지 경로의 구조화: scaling, paradigm shifts, recursive improvement, multi-agent collectives라는 상호배타적이지 않은 경로들의 체계적 분류
• 마찰 요인의 포괄적 분류: 각 경로별로 진행을 저해할 수 있는 구체적인 마찰 요인들을 식별하고 그들의 상대적 중요성을 논의
• 정량적 기초 제공: compute growth의 역사적 데이터(1.5×/년 hardware, 2.5×/년 investment, 3×/년 algorithmic efficiency, 총 10×/년)에 기반한 미래 진행 속도에 대한 경험적 근거 제시
• 열린 연구 문제의 명시화: 각 경로와 마찰 요인에 대한 구체적인 미해결 연구 질문들의 제시

How

• Universal AI의 이론적 개념과 정보 이론적 원칙들을 활용한 ASI의 형식적 특성화
• 과거 AI 발전의 역사적 분석과 scaling law 연구에 기반한 정량적 프레임워크 구성
• 기술적 경로들의 상호작용과 독립성을 고려한 다차원 분석 구조
• 각 마찰 요인의 특성(hardware constraints, algorithmic limits, coordination challenges 등)에 따른 경로별 영향도 분석
• 계산 가능성(computability), 샘플 복잡성(sample complexity), 최적화 이론 등 이론적 기초학문과의 연결

Originality

• 새로운 프레임워크: AGI를 넘어 ASI로의 전환을 다중 기술적 경로와 마찰 요인의 상호작용으로 체계화한 통합 분석은 기존 초지능 논의의 투기적 특성을 벗어난 구조적 접근
• 정량적 역사 분석: 과거 삼십 년간의 compute growth 데이터와 algorithmic efficiency 개선을 정량적으로 분해하고 이들의 미래 추정에 적용
• 마찰 요인의 다차원 분류: 단순한 기술적 한계를 넘어 경제, 조직, 협력의 측면에서 ASI 발전의 병목을 체계적으로 분류
• 형식적 기초: Universal AI 이론에 기반한 초지능의 형식적 특성화는 초지능 논의에 수학적 엄밀성을 부여

Limitation & Further Study

• 실증적 증거 부족: 제안된 경로들과 마찰 요인들의 상대적 중요성에 대한 경험적 검증 데이터가 제한적이며, 대부분 AGI 달성 이전의 현상에 기반함
• Scaling law의 외삽 불확실성: 현재의 scaling law가 AGI를 넘어 ASI 수준에서도 동일하게 작동한다는 보장이 없으며, paradigm shift 이후의 scaling 특성에 대한 정보 부족
• Compute 성장률의 불확실성: 10×/년의 추정치는 보수적이지만, 각 구성 요소(hardware, investment, algorithms)별 미래 성장률에 대한 높은 불확실성이 존재
• 조직 및 경제적 요인의 저평가: AI 발전의 기술적 경로와 마찰만 강조하고, 규제, 정책, 국제 경쟁 등 거시적 요인의 영향에 대한 분석이 제한적
• 다중 경로 상호작용의 복잡성: 네 가지 경로가 병렬로 진행될 때의 상호작용과 가속 효과를 충분히 모델링하지 못함
• Human-level AGI의 정의 모호성: AGI와 ASI의 경계를 명확히 정의했으나, 실제 "인간 수준"의 성능이 무엇을 의미하는지, 그리고 어느 시점부터 superintelligent로 간주할지에 대한 운영적 정의는 여전히 불명확

Evaluation

총평: 본 보고서는 AGI 이후의 AI 발전을 다중 기술적 경로와 그에 따른 마찰 요인으로 구조화함으로써, 초지능에 대한 투기적 논의를 학문적 체계로 전환하는 데 의미 있는 기여를 한다. 과거 compute growth의 정량적 분석과 형식적 이론적 기초(Universal AI)를 바탕으로 한 접근은 학문적 엄밀성을 제공하며, 제시된 미해결 연구 문제들은 향후 AI 안전, 기술 예측, 정책 수립 분야의 실질적 연구 의제를 제시한다. 그러나 AGI 이상 수준에서의 경험적 검증 데이터 부족, scaling law의 외삽에 따른 높은 불확실성, 거시적 요인(규제, 국제 경쟁)에 대한 분석 부족 등으로 인해 실증적 예측력은 중간 수준이다. 현 시점에서 AGI-ASI 전환을 탐색하기 위한 구조화된 사고 틀로서의 가치는 높지만, 기술적 깊이와 정량적 모델링은 추가 개선의 여지가 있다.