Meta AI发布新语言模型“牧羊人”：评估与改进建议，优于其他竞争模型

近期，Meta AI推出了一项名为”牧羊人”（Shepherd）的全新语言模型，其用途是对其他模型生成的文本进行评估，并提供改进建议。这一模型拥有约70亿个参数，并通过社区反馈和人工标注的数据集进行了充分训练。

“牧羊人”模型的评估结果令人瞩目，与其他竞争模型相比，其平均胜率高达53-87%，凸显出了显著的优势。此外，经过人工评估，”牧羊人”模型的表现也赫然在列，与ChatGPT一样出色。

这款模型的独特之处之一在于其能够生成自然流畅的语言反馈，包括总体评价、通用建议和领域专业知识等。它能够辨别文本中的问题，如事实准确性、逻辑严谨性、连贯性和一致性，并针对性地提出改进意见。

研究人员为了对”牧羊人”模型进行微调和评估，精心打造了一个高质量的反馈数据集，其中包括了社区反馈和人工标注的反馈内容。在评估过程中，他们选择了涵盖广泛主题和推理技能的6个数据集，并以GPT-4作为评估工具。

研究人员的发现表明，”牧羊人”模型在对生成文本进行批判性评估方面胜过其他模型，特别是在正确评价方面表现突出。同时，社区反馈与人工标注的反馈数据对模型性能有不同的影响，前者呈现出更多样的特点，但表达形式较为非正式，而后者的信息量更为丰富。

总的来说，”牧羊人”模型呈现出令人瞩目的成果，在多个下游任务中表现出色，这在很大程度上超越了其他模型。这一研究对于提升语言模型生成的可靠性具有重要意义。

该语言模型的特点包括：

1. 能够生成连贯、有语境和语义的文本。
2. 具备识别问题并提供改进建议的能力。
3. 可涉及领域专业知识，提供相关建议。
4. 能够通过社区反馈和人工标注的数据进行微调和评估。
5. 在对模型生成文本的批判性评估方面表现优异。
6. 在多个下游任务中的表现均超越了其他模型。
7. 能够为各种类型的任务提供有价值的反馈。

论文链接：[https://arxiv.org/pdf/2308.04592.pdf](https://arxiv.org/pdf/2308.04592.pdf)