LLM | Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena

 

---

[ Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks ]

대형 언어 모델(LLM)을 평가 도구로 활용하여 인간 평가(human evaluation)와의 일치성을 분석하는 연구입니다.
이 논문은 LLM이 챗봇과 같은 AI 모델의 성능을 평가하는 데 있어 인간의 선호도를 얼마나 잘 반영할 수 있는지를 탐구합니다.

---

 

 

 

요약
기존의 벤치마크는 인간 선호도를 제대로 반영하지 못했기 때문에 이러한 문제를 해결하기 위해 LLM을 심판으로 사용하는 방법(LLM-as-a-judge)을 제안했습니다. 연구 내용에서는 LLM을 심판으로 사용할 때 발생할 수 있는 편향(position, verbosity, self-enhancement bias 등)을 분석하고 이를 완화하는 방법을 제안했습니다. 두 가지 새로운 벤치마크(MT-bench, Chatbot Arena)의 효과를 검증한 결과, LLM 심판(GPT-4)은 human evaluation과 80% 이상의 일치를 보였습니다. 따라서 human evaluation을 확장할 수 있고, 비용적/효율적으로 이를 대체할 수 있음을 확인했습니다. 

 

 

 

들어가며

대규모 언어 모델(LLM) 로 만든 채팅 어시스턴트를 평가하는 것은 어렵습니다. 능력의 범위가 넓고, 인간의 선호도를 측정하기에 기존 벤치마크가 충분하지 않기 때문입니다. 이를 해결하기 위해, 강력한 LLM을 judge로 사용하여 모델을 평가하는 방법을 탐구했습니다. LLM-as-a-judge(LLM을 평가자로 사용)의 활용과 한계를 조사했으며, 위치 편향(position bias), 장황성 편향(verbosity bias), 자기 강화 편향(self-enhancement bias), 제한된 추론 능력 등을 다루었습니다. 

두 가지 벤치마크를 도입하여 연구한 결과, GPT-4와 같은 강력한 LLM judge는 제어된 환경과 크라우드소싱된 환경 모두에서 human evaluation과 높은 일치율(80% 이상)을 보였습니다. 따라서 LLM-as-a-judge는 인간 선호도와 비슷하며, 확장 가능하고 설명 가능한 방법으로, 높은 비용의 human evaluation을 대체할 수 있을 것으로 확인했다고 합니다.

 

 

 

새로운 벤치마크
1. MT-Bench:
• 다중 턴 질문 세트로, 챗봇의 대화 능력과 지시 수행 능력을 평가합니다.
• 이 벤치마크는 챗봇의 핵심 능력(예: 추론 및 수학적 문제 해결)을 구별할 수 있도록 설계되었습니다.
2. Chatbot Arena:
• 사용자들이 두 개의 챗봇과 동시에 대화하며 그들의 응답을 개인적인 선호에 따라 평가하는 크라우드소싱 플랫폼입니다.

 

주요 발견
• GPT-4와 같은 강력한 LLM이 인간의 선호도와 80% 이상의 일치율을 보임으로써, LLM을 심판으로 사용하는 것이 인간 평가를 대체할 수 있는 가능성을 보여줍니다.
• 이 연구는 LLM-as-a-judge가 스케일러블하고 설명 가능한 방식으로 인간의 선호도를 근사할 수 있음을 입증합니다.

 

한계 및 제안
• LLM-as-a-judge의 사용에는 특정 한계가 있으며, 예를 들어, 편향성, 과도한 장황함, 자기 강화 편향 등이 포함됩니다.
• 이러한 한계를 완화하기 위한 해결책도 제안됩니다.

 

결론
• 이 논문은 LLM을 이용한 하이브리드 평가 프레임워크를 제안하며, 기존의 능력 기반 벤치마크와 새로운 선호도 기반 벤치마크를 결합하여 모델의 핵심 능력과 인간 정렬을 신속하게 평가할 수 있는 방법을 제시합니다.
MT-Bench 질문, 3천 개의 전문가 투표 및 3만 개의 인간 선호 대화 데이터는 공개되어 있어 후속 연구에 활용될 수 있습니다. 이 연구는 NeurIPS 2023에서 발표되었습니다.