CMMLU

CMMLU是一个全面的中文语言模型评估基准,涵盖67个主题,从基础到专业领域,特别强调中国特色知识,用于测试模型的知识储备和推理能力。

体验CMMLU

什么是CMMLU

CMMLU:全面评估中文语言模型的知识与推理能力

CMMLU是一个专为中文语境设计的综合性评估基准,旨在全面测试语言模型的知识储备和推理能力。这个基准涉及67个不同主题,涵盖范围广泛:

  • 自然科学领域:需要模型具备计算和推理能力
  • 人文和社会科学:考察模型的知识积累
  • 日常生活常识:如中国特有的驾驶规则等

CMMLU的独特之处在于其高度本地化,许多任务的答案都具有中国特色,可能不适用于其他地区或语言环境。这使得CMMLU成为一个真正意义上的中国化测试基准,能够更准确地评估语言模型在中文语境下的表现。