Toolformer 논문 공개 (2023)

2023년 2월 9일 arXiv에 공개된 Toolformer 논문의 기록. 모델이 API 호출을 스스로 익히는 자기감독 학습과 그 보고를 다룬다.

고친 내용: 초판

역설적인 풍경

언어모델은 규모가 커질수록 새 과제를 몇 개의 예시나 지시문만으로 풀었다. 그런데도 산술이나 사실 조회 같은 기본 기능에서는 훨씬 단순하고 작은 모델에 뒤처졌다. 말은 잘하지만 손이 없는 역설이다. 도구를 붙이면 해결될 문제였지만, 언제 무엇을 호출할지를 정하는 일은 사람의 몫으로 남아 있었다.

사건: 논문의 공개

2023년 2월 9일, Schick 등은 arXiv에 Toolformer: Language Models Can Teach Themselves to Use Tools를 공개했다. 어떤 API를 언제 어떤 인자로 호출하고 결과를 다음 토큰 예측에 반영할지를 모델이 결정하게 학습시켰다. 학습은 자기감독 방식으로 이루어지며 API마다 소수의 시연 예시만으로 시작한다고 보고되었다. 계산기와 Q&A 시스템, 두 종류의 검색 엔진, 번역 시스템, 달력이 실험에 쓰인 도구다.

보고된 결과

초록이 전하는 결과는 두 가지다. 다양한 downstream 태스크의 zero-shot 성능이 크게 올랐고 종종 훨씬 큰 모델과 경쟁할 수 있었다는 것, 그리고 핵심 언어모델 능력은 유지되었다는 것이다. 도구 사용의 학습이 언어 능력의 대가로 이루어진 일이 아니라는 주장이다.

해석의 주의

스스로 가르친다는 표현이 사람 손이 전혀 안 간다는 뜻은 아니다. 호출 후보를 생성한 뒤 유용한 것만 남기는 파이프라인을 가리키며, 그 설계 자체는 사람의 몫이다. 이 점을 분명히 해야 원 논문의 주장을 과장 없이 읽을 수 있다. 이 기록의 의의는 점수보다 방향에 있다. 도구 사용을 프롬프트의 기술이 아니라 학습의 대상으로 올린 것이다.

실무의 시사점

도구 사용을 학습시킬 것인가 절차로 정할 것인가. 이 기록이 던지는 선택이다. 도구의 종류가 적고 호출 규칙이 분명하면 절차가 빠르고 확실하다. 도구가 많고 호출의 판단이 미묘하면 학습의 길이 열린다. 어느 쪽이든 호출의 기록을 남기고 실패를 추적하는 눈은 함께 둬야 한다. 학습이 절차를 대신하지 않듯, 절차도 학습의 필요를 없애지 못한다.