CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing

Motivation

• Known: ChatGPT 등 최신 LLM은 인상적인 성능을 보이지만, 사실 오류(hallucination), 코드 결함, 독성 콘텐츠 등의 일관성 없는 문제를 드러낸다. 기존 해결책은 대규모 인간 주석이나 과제 특화 학습을 필요로 한다.
• Gap: 인간은 검색엔진으로 팩트체크하거나 코드 인터프리터로 디버깅하는 등 외부 도구를 활용해 내용을 검증하고 수정하지만, 블랙박스 LLM은 이런 도구 상호작용 기반 자가수정 능력이 부족하다.
• Why: 외부 피드백(external feedback)없이 LLM의 자체 검증만으로는 신뢰성이 낮고, 자가수정(self-correction) 효과가 제한적이다. 도구 기반 객관적 검증이 필수적이다.
• Approach: 인컨텍스트 러닝(in-context learning)과 몇샷 데모(few-shot demonstration)를 통해, 추가 학습 없이 블랙박스 LLM이 적절한 외부 도구와 상호작용하여 비판을 생성하고 이를 기반으로 반복 수정하도록 유도한다.

Achievement

다양한 과제(QA, 수학 프로그램 합성, 독성 감소)에서 CRITIC 프롬프트 예시: 검증 후 비판 생성, 수정된 답변 제시

1. 정량적 성과: ChatGPT 적용 시 3개 QA 과제에서 7.7 F1 향상, 3개 수학추론 과제에서 7.0% 절대 성능 향상, 독성 확률 79.2% 감소 달성. LLaMA-2(7B, 13B, 70B) 등 다양한 모델에서 일관된 개선 확인.
2. 방법론 유효성: 외부 도구 상호작용이 없는 순수 자가수정은 효과 미미하거나 성능 저하를 초래하지만, CRITIC의 검증-수정 반복 과정은 지속적 개선을 보장한다. 자가수정의 필수 조건으로 외부 피드백의 중요성을 입증.

How

반복 과정을 통한 성능 변화: QA, GSM8k 수학 추론, 독성 감소 과제별 반복 횟수에 따른 개선 추이

알고리즘 (Algorithm 1):

• 초기화(1단계): 입력 x에 대해 모델 M이 초기 출력 ŷ₀ 생성
• 검증(3단계): 프롬프트 ℘, 초기 출력 ŷᵢ를 포함한 컨텍스트에서 LLM이 외부 도구 T(검색엔진, 코드 인터프리터, 계산기 등)와 상호작용하여 비판 cᵢ 생성
• 중단 조건(4-6단계): 생성된 비판이 현재 출력이 정확함을 나타내면 반환
• 수정(7단계): 입력, 이전 출력, 비판을 모두 포함한 컨텍스트에서 개선된 출력 ŷᵢ₊₁ 생성
• 반복(2-8단계): n번 반복하거나 중단 조건 만족 시 종료

핵심 프롬프트 전략:

• 검증 단계: "위 답변의 문제점은 무엇인가?" 형태로 LLM의 평가 능력 활용
• 비판 생성: 타당성(Plausibility), 정확성(Correctness), 진실성(Truthfulness) 등 다차원적 검증
• 도구 활용: API 호출 결과(검색 쿼리, 코드 실행 결과 등)를 프롬프트에 자동 포함
• 과제 특화: QA는 팩트체크, 수학은 코드 실행 검증, 독성은 독성 감지기 활용

Originality

• 도구-상호작용 기반 자가수정: 기존의 인간 피드백이나 학습 기반 접근과 달리, 외부 객관적 도구를 통한 검증을 자가수정의 핵심으로 제시. 인간의 비판적 사고(critical thinking) 프로세스를 체계화한 첫 시도.
• 블랙박스 모델의 범용성: 추가 학습, 파인튜닝, 거대 규모 인간 주석을 요구하지 않고 순수 인컨텍스트 러닝으로 ChatGPT, GPT-3.5, LLaMA 등 이질적 모델에 적용 가능한 범용 프레임워크.
• 외부 피드백의 필수성 입증: 순수 자가수정의 한계를 실증적으로 보이고, LLM은 자체 검증 능력이 부족하므로 객관적 외부 도구가 필수임을 강조(Kadavath et al. 등 선행 연구 재확인 및 확장).
• 다과제 통합: QA(사실성), 수학(논리성), 독성 감소(안전성) 등 이질적 평가 차원의 과제에 단일 프레임워크를 적용, 방법의 범용성 입증.

Limitation & Further Study

• 도구 의존성: CRITIC의 성능은 사용 가능한 외부 도구의 품질과 정확성에 크게 의존. 검색 결과가 부정확하거나 코드 인터프리터가 에러 처리를 잘못하면 잘못된 비판 생성 가능. 도구 신뢰도 평가 메커니즘 부재.
• 반복 횟수 결정: 현재 중단 기준은 LLM이 "출력이 정확하다"고 판단하는 것인데, 이 판단 자체의 신뢰성이 불명확. 최적 반복 횟수를 동적으로 결정하는 방법 필요.
• 프롬프트 민감도: 검증 및 수정 프롬프트 설계가 성능에 미치는 영향에 대한 체계적 분석 부족. 과제별 최적 프롬프트 발견이 수작업(manual)에 의존.
• 계산 비용: 반복적 도구 호출로 인한 API 비용과 지연 시간 증가. 수렴 속도 분석 및 계산 효율성 개선 방안 제시 부족.
• 후속 연구 방향:
  • 도구 신뢰도를 고려한 적응적 검증(adaptive verification) 메커니즘
  • 강화학습(RL) 기반 최적 도구 선택 및 반복 횟수 결정
  • 멀티홉(multi-hop) 도구 조합을 통한 복잡한 추론 문제 확장
  • 인간-LLM 협업 설정에서 도구 설명(tool explanation) 제공

Evaluation

총평: CRITIC은 외부 도구 기반 자가수정의 필수성을 실증적으로 입증하고 인컨텍스트 러닝만으로 다양한 LLM에 범용적으로 적용 가능한 실용적 프레임워크를 제안했다는 점이 강점이다. 다만 도구 신뢰도, 반복 중단 기준의 자동화, 계산 비용 분석 등에서 이론적 깊이와 실무적 고려가 부족하여 완성도 높은 연구로 보기 어렵다.