Toolformer: Language Models Can Teach Themselves to Use Tools

Motivation

• Known: 대규모 언어 모델(LM)은 맥락 학습(in-context learning)을 통해 새로운 작업에 뛰어난 능력을 보이지만, 산술 계산, 최신 정보 검색, 사실 확인 등의 기초적 기능에서는 취약하다.
• Gap: 기존의 도구 사용 접근법들은 대량의 인간 주석이 필요하거나 특정 작업에만 제한되어, 일반적인 언어 모델에 광범위하게 적용하기 어렵다.
• Why: 인간이 유용하다고 판단하는 것과 모델이 실제로 유용하다고 판단하는 것이 다를 수 있으므로, 인간 주석 없이 모델 자신의 손실함수(loss)를 기반으로 도구 사용 여부를 결정하는 것이 더 효과적이다.
• Approach: 사전학습된 대규모 언어 모델의 인-컨텍스트 학습 능력을 이용하여 잠재적 API 호출을 생성하고, 자가감독 손실함수를 통해 실제로 도움이 되는 호출만을 필터링한 후, 필터링된 API 호출들과 함께 원본 데이터셋으로 모델을 파인튜닝한다.

Achievement

Figure 2: 접근 방식의 핵심 단계. 입력 텍스트 x가 주어지면 (1) 가능한 API 호출 위치와 후보들을 샘플링하고, (2) API 호출을 실행한 후, (3) 손실함수 감소에 기여하지 않는 호출들을 필터링하여 최종 데이터셋을 구성한다.

1. 성능 향상: 6.7B 매개변수의 Toolformer(GPT-J 기반)가 다양한 다운스트림 작업에서 175B 매개변수의 GPT-3을 능가하는 제로샷(zero-shot) 성능을 달성한다.
2. 일반성 보존: 원본 사전학습 데이터셋을 그대로 사용하여 파인튜닝함으로써 언어 모델의 기본 능력을 손상시키지 않으면서 도구 사용 능력을 추가한다.
3. 다양한 도구 통합: 질의응답 시스템, Wikipedia 검색, 계산기, 번역 시스템, 달력 등 5가지 이질적인 도구를 하나의 프레임워크에서 운영할 수 있다.

How

Figure 3: 질의응답 도구를 위한 프롬프트 P(x)의 예. 모델에게 몇 가지 데모를 통해 API 호출의 형식과 위치를 학습시킨다.

• API 호출 샘플링 (Sampling):
  • 프롬프트 P(x)를 통해 모델이 API 호출을 시작할 확률 p_i를 계산하고, 임계값(τ_s) 이상의 위치에서 최대 k개의 API 호출을 샘플링
  • 각 위치 i에서 최대 m개의 후보 API 호출 생성
• API 호출 실행 (Executing):
  • 샘플링된 모든 API 호출을 실제로 실행하여 결과 획득
  • 도구마다 다른 실행 방식(신경망 호출, Python 스크립트 실행, 검색 시스템 등)
• API 호출 필터링 (Filtering):
  • 가중 교차 엔트로피 손실(weighted cross-entropy loss)을 이용하여 유용성 판단
  • L⁻_i = min(L_i(ε), L_i(e(c_i, ε))): API 호출이 없거나 결과 없는 경우의 손실
  • L⁺_i = L_i(e(c_i, r_i)): API 호출과 결과가 제공되는 경우의 손실
  • 조건: L⁻_i - L⁺_i ≥ τ_f 를 만족하는 호출만 유지
• 모델 파인튜닝 (Finetuning):
  • 필터링된 API 호출들을 원본 텍스트에 삽입하여 새로운 데이터셋 C* 구성
  • 표준 언어 모델링 목적함수로 파인튜닝
• 추론 (Inference):
  • "→" 토큰이 생성되면 디코딩을 중단하고 해당 API 호출 실행
  • 결과와 </API> 토큰을 삽입한 후 디코딩 재개

Originality

• 자가감독 학습의 혁신적 적용: 인간의 주석 없이 모델 자신의 손실함수를 기반으로 도구 사용 필요성을 판단하는 방식은 완전히 새로운 접근이다.
• 인-컨텍스트 학습의 창의적 활용: 사전학습된 대규모 모델의 인-컨텍스트 학습 능력을 이용하여 자동으로 API 호출 데이터셋을 생성함으로써 비용이 많이 드는 수작업 주석을 제거했다.
• 도구-불가지론적 프레임워크(Tool-agnostic framework): 텍스트 입출력만 지원하면 어떤 도구든 통합 가능한 일반적이고 확장성 있는 설계.
• 도구 호출의 명시적 표현: 특수 토큰(API, /API, →)을 사용하여 API 호출을 텍스트에 자연스럽게 통합하고, 기존 어휘를 수정하지 않고도 작동 가능하도록 설계.

Limitation & Further Study

• 제한사항:
  • 텍스트 입출력만 지원하므로, 이미지나 구조화된 데이터 입력이 필요한 도구는 활용 불가능
  • 도구 결과가 항상 정확하다고 가정하지만, 실제로는 오류가 발생할 수 있고 이에 대한 강건성이 미흡할 수 있음
  • 필터링 임계값(τ_f, τ_s) 선택이 경험적이며, 최적화된 설정에 대한 체계적 연구 부족
  • 계산기는 기본 산술만 지원하고, 더 복잡한 수학 연산이나 기호적 추론은 미지원
• 후속 연구 방향:
  • 도구의 오류 처리 및 오류 복구 메커니즘 개발
  • 더 복잡한 도구(이미지 생성기, 데이터 분석 도구 등)와의 통합
  • 다국어 설정에서의 도구 사용 능력 평가
  • 도구 호출의 최적성과 효율성에 대한 이론적 분석
  • 도구 조합(tool composition) 및 순차적 도구 호출의 학습

Evaluation

총평: Toolformer는 인간 주석 없이 모델 자신의 피드백으로부터 도구 사용을 학습하는 획기적인 접근법을 제시함으로써, 언어 모델의 근본적 한계를 극복하는 실질적이고 일반적인 해결책을 제공한다. 비록 기술적으로는 기존 개념들의 신중한 조합이지만, 자동화된 데이터셋 생성과 효율적인 필터링을 통해 실용적 가치가 높으며, 소규모 모델의 대규모 모델 능가라는 임팩트있는 결과를 달성했다는 점에서 높이 평가된다.