“GPT-4变傻”不只是OpenAI的苦恼，所有大模型与人类交往越久就会越蠢？

文章转载来源：硅星人

文章来源：硅星人

图片来源：由无界 AI生成

ChatGPT发布一年多，已经在全世界累积了超过1.8亿用户。而随着越来越多的人们开始频繁使用它，近几个月关于GPT-4在“变笨”、“变懒”的说法不绝于耳。

大家发现这个昔日大聪明在回答提问时逐渐失去了最初的理解力和准确性，时不时给出“驴唇不对马嘴”的答案，或是干脆摆烂、拒绝回答。

对于GPT-4降智的原因，用户们有许多自己的猜测。而最近，来自加州大学圣克鲁兹分校的一篇论文，给出了学术界的最新解释。

「我们发现，在LLM训练数据创建日期之前发布的数据集上，LLM的表现出奇地好于之后的数据集。」

eLLM训练数据收集日期之前和之后发布的数据集，对零样本（蓝色）和少样本（绿色）任务的准确率对比。

也就是说，大模型在它们之前“见过”的任务上表现优秀，在新任务上则相对拉垮。这更像是一种检索的模拟智能方法，回答问题全靠记，而非纯粹基于学习理解能力。

因此论文认为，许多大模型在处理早期数据时展现出的优异表现，实际上是受到了「任务污染」的影响。

我们知道，大语言模型之所以强大，是因为在各种零样本和少样本任务中表现出色，显示出处理复杂和多样化问题的灵活性。

而「任务污染」就是一种对零样本或少样本评估方法的污染，指在预训练数据中已包含了任务训练示例——你以为GPT初次回答就这么得心应手？No！其实它在训练过程中就已经“见过”这些数据了。

评估的模型与数据集

由于封闭模型不会公开训练数据，开放模型也仅提供了数据源，爬取网站去获取数据并非易事，所以想简单验证是困难的。

为了实测任务污染的范围，论文中共评估了12种不同的模型，包括5个GPT-3系列封闭模型和Fairseq MoE、Bloom、LLaMA等7个开放模型，并列出训练集创建和模型发布日期。

在数据集上则划分为两类：2021年之前和2021年之后发布的数据集。以此来对比新老数据集之间的零样本或少样本任务性能差异。

基于以上样本，研究人员采用了四种方法来衡量大模型的任务污染范围。

1. 训练数据检查：直接搜索训练数据以找到任务训练示例。

发现经过微调的Llama模型Alpaca和Vicuna，在训练中加入少量任务示例后，对比原版Llama性能有所提升。

2. 任务示例提取：从现有模型中提取任务示例。

具体方法是通过提示词指令，让模型生成训练示例。由于在零样本或少样本评估中，模型本不应该接受任何任务示例训练，所以只要LLM能够根据提示生成训练示例，就是任务污染的证据。

结果发现，从GPT-3第一代davinci-001到后来的3.5-T，代表可以生成训练示例的红色X越来越多了，证明任务污染越发严重。

3. 成员身份推断：仅适用于生成任务，核心是检查模型为输入示例生成的内容是否与原始数据集完全相同。如果一致，就可以认定这个示例是LLM训练数据的成员。

因为如果在开放式生成任务中出现这种精准匹配，那模型无异于具备了预知能力，能准确复现数据集中的具体措辞，表现可以说是“天秀”了，这就强烈暗示了模型在训练时已经学习过这些内容。

结果显示在GPT-3系列和最近开源的大模型中，这种生成内容与原始数据完全相同的情况普遍存在，且污染程度随时间呈上升趋势。

4. 时间序列分析：对于已知训练数据收集时间的模型，测量其在已知发布日期的数据集上的性能，并使用时间序列证据检查污染的证据。

通过对所有数据集和LLM进行全球性的时间序列分析，发现对于在LLM发布之前收集的数据集（左侧），无论是零样本还是少样本任务中，击败多数基线的可能性都远远更大。

在所有实验过后，论文给出如下关键结论：

由于任务污染，闭源模型在零样本或少样本评估中的性能表现被夸大了，特别是那些经过人类反馈的强化学习（RLHF）或指令微调的模型。由于污染程度仍然未知，我们需要谨慎对待。
在实验中，对于没有展示出污染可能性的分类任务，大模型在零样本和少样本设置里很少显示出相对多数基线在统计学意义上的显著性改进。
随着时间推移，GPT-3系列模型在许多下游任务的零样本或少样本性能上的提升很可能是由于任务污染造成的。
即使是开源的LLM，出于多种原因，检查训练数据的任务污染也可能是困难的。
鼓励公开训练数据集，以便更容易诊断污染问题。