这项由美国威斯康星大学麦迪逊分校主导的康星研究于2026年7月正式发表，收录于ICML 2026年权重空间对称性研讨会（WSS: from Foundations to Practical Applications），大学的训论文编号为arXiv:2607.01686v1。模型

一家科技公司耗费数年光阴与巨额资金，练食里利用精心筛选的谱藏多元数据训练出强大的AI模型，随后将其免费开源。权重这看似慷慨之举背后，告诉却隐藏着一个核心机密：这道“菜”究竟是康星如何烹制的？具体使用了多少网页文本、数学题或代码，大学的训各自占比多少？模型这份“训练食谱”往往是企业最核心的商业壁垒。

研究团队转换思维：既然“食谱”不公开，练食里能否通过“品尝”模型的谱藏表现，反推其食材比例？权重为此，他们开发了WARP（Weight-space Analysis for Recovering Training data Portfolios，告诉权重空间训练数据组合还原分析）方法。康星该方法仅需获取已发布的AI模型权重，即可估算其训练数据的构成比例。实验数据显示，在BERT和GPT-2模型上，WARP的估算误差分别低至0.046和0.104，显著优于传统方法。

一、为何“数据食谱”至关重要却难以窥探？

理解这一研究的价值，首先需明确数据配比在模型训练中的核心地位。

训练大型语言模型如同经营顶级餐厅，食材的种类与比例直接决定最终风味。若模型大量摄入代码数据，其编程能力将显著增强；若侧重新闻文章，则在时事理解上表现更佳。近年研究证实，数据配比不仅影响知识广度，更关乎训练效率——优化的配比能以更少的算力实现更强的模型性能。

然而，这些关键配比方案极少公开。大多数前沿AI模型发布时，仅模糊表述为“在多样化数据上训练”，对具体来源及比例讳莫如深。这种信息不对称导致研究者虽可免费使用模型，却对生成模型的“食谱”一无所知。

这一信息缺口引发诸多问题：
1. 微调风险：在已有模型上进行微调时，若不知晓原始训练分布，难以判断微调是增强模型能力还是破坏其原有平衡。
2. 审计障碍：数据不透明阻碍了数据污染审计（检测测试题是否泄露至训练集）及对模型性能差异的深度归因。

现有解决方案多集中于“成员推断攻击”（Membership Inference），即通过模型对特定样本的反应判断其是否出现在训练集中。这类似于通过答题流畅度判断学生是否见过原题。该方法在样本层面有效，但无法解决全局配比问题。即便知晓每个样本的成员资格，受限于测试集分布偏差，仍难以准确拼凑出“数学题与语文题的具体比例”。

WARP则另辟蹊径：不猜测单个样本的成员资格，而是从宏观角度分析模型参数在权重空间中的几何结构，从而估算整体数据配比。

二、权重空间中隐藏的“训练轨迹”

理解WARP的核心在于一个直觉：模型训练完成后，其参数（数以亿计的数字，代表学到的规律）不仅存储了知识，还保留了“被塑造”的过程痕迹。

将模型训练比作陶土雕塑：基础模型（Base Model）是原始陶土，微调模型（Fine-tuned Model）是成品。成品的形状由工匠的工具、力度及顺序决定，这对应着数据的使用情况。问题在于，AI公司通常不发布训练过程中的中间状态（Checkpoints），导致我们只有原材料和成品，缺失中间过程。

WARP的关键洞察是：虽无法获取真实中间状态，但可通过模拟生成一条从原材料到成品的路径，并从中提取信息。

具体而言，研究团队采用“模型合并”（Model Merging）技术，将基础模型与微调模型的参数按比例混合。例如，50%基础模型+50%微调模型生成位于两者“中间”的模型。通过调整混合比例，研究团队生成了一系列“伪检查点”（Pseudo-checkpoints），模拟真实训练的中间状态。

论文测试了三种合并策略：
1. 线性插值（LERP）：按比例直接加权平均。
2. 球面插值（SLERP）：沿弧线进行插值。
3. TIES合并：处理参数冲突的精细合并方法。

实验中选取T=15个均匀分布的伪检查点，构成WARP分析的基础数据。

三、以“共鸣”量化数据存在感

拥有模拟轨迹后，如何从中提取配比信息？研究团队引入了“Mimic Score”（模仿评分）概念。

其逻辑如下：
1. 每个伪检查点对应演化轨迹上的某一点，存在一个指向最终微调模型的“演化方向”。
2. 对于特定领域（如“体育新闻”）的样本，计算其“影响方向”——即若用这些样本继续训练，模型参数将移动的方向。
3. 若“影响方向”与“演化方向”高度一致，说明该领域数据在真实训练中占比高；反之则低。

这种“共鸣度”即为Mimic Score。数学上，它是将样本的负梯度向量（参数更新方向）投影到当前位置指向最终模型的方向向量上，得到标量分数。分数越高，共鸣越强。

研究团队在每个伪检查点上，对各领域样本分别计算Mimic Score并取平均，构建出一个矩阵：行代表数据领域（体育、科技等），列代表伪检查点位置（模拟训练早、中、晚期）。此矩阵被称为“几何足迹”（Geometric Footprint），记录了各领域在模拟轨迹上的存在痕迹，宛如音频频谱图上的波纹。

四、从“足迹”到“配比”：两种解析策略

基于几何足迹矩阵，研究团队设计了两种解析策略，适配不同场景。

1. 无监督读出（Unsupervised Readout）

• 原理：无需额外训练数据。计算各领域在所有伪检查点上的平均Mimic Score，通过Softmax函数归一化为概率分布。
• 参数：引入温度参数τ控制分布锐利程度。τ越小，分布越集中于高分领域；τ越大，分布越均匀。
• 优劣：优点是开箱即用，无需准备；缺点是将所有时间点信息平均化，可能丢失早期与晚期响应的差异细节。

2. 监督投影（Supervised Projection）

• 原理：引入一个小型神经网络（两层MLP）作为“翻译器”。输入为完整的几何足迹矩阵（K×T），输出为预测配比。
• 训练方式：从同源数据人工生成“已知配比”的合成数据集。随机采样配比，组合数据并对基础模型进行短暂微调，计算对应的几何足迹，形成“足迹→配比”的监督信号对。由于微调时间短，合成数据生成效率高。
• 评估：采用五折交叉验证。在40个已知配比模型中，每次用32个训练翻译器，8个评估，循环五次取平均，确保可靠性。

五、实验设计与卓越表现

研究团队构建了严谨的受控实验环境：
* 数据集：选用SNLI（自然语言推理）、AGNews（新闻分类）、Yelp（情感分析）、Yahoo（话题分类）四个文本分类数据集，将不同类别视为不同“数据领域”。
* 实验设置：随机抽取40种数据配比，每种配比组合5000条样本，在BERT-BASE和GPT-2-Small上进行微调，生成40个参考模型。
* 探测数据：独立采样2500条样本（各领域均等），与训练数据不重叠。
* 评估指标：主要使用MAE（平均绝对误差），辅以MSE（均方误差）。

对比基准：
1. 随机猜测：从概率单纯形随机采样，代表无信息基准。
2. 质心猜测：假设各领域均等，代表最保守猜测。
3. 样本级成员推断：通过比较基础模型与微调模型的损失差异估算成员资格，再聚合为领域配比，代表现有主流水平。

结果分析：
* BERT模型：WARP最佳变体（TIES合并+监督MLP）MAE为0.046，优于最强基准（0.063），误差降低约27%。
* GPT-2-Small模型：WARP最佳变体（LERP合并+监督MLP）MAE为0.104，优于最强基准（0.141），误差降低约26%。
* 随机/质心猜测：MAE在0.154-0.204之间，与WARP差距显著。

意外发现：使用模型合并生成的伪检查点，效果不亚于甚至优于真实训练检查点。研究团队解释为“平滑度差距”：真实训练轨迹受小批量数据、学习率预热等噪声影响，梯度方向抖动剧烈；而伪检查点构成的路径干净单调，几何足迹矩阵更整洁，更利于MLP学习。

六、跨训练阶段的鲁棒性验证

现实中，模型训练状态各异（提前停止、收敛、过训练）。若WARP仅适用于特定状态，其价值将受限。

研究团队针对GPT-2-Small在AG News数据集上的三种阶段进行测试：
* 9轮（提前停止）
* 12轮（接近收敛）
* 18轮（过训练）

使用TIES合并及两种读出方式，结果显示WARP在所有阶段均稳定优于基准。监督MLP表现始终最佳：
* 9轮MAE：0.130
* 12轮MAE：0.147
* 18轮MAE：0.124

上述数值均远低于质心猜测（0.179）和随机猜测（0.239）。基准方法（成员推断）MAE固定为0.200，对检查点变化不敏感但准确性较低。

这一稳定性表明，WARP提取的是权重中相对稳定的“结构性信息”，而非易随训练进度波动的浅层统计特征。

七、局限性与未来展望

研究团队坦诚列出了WARP的局限性及未来方向：

1. 可解释性不足：监督MLP作为“黑盒”，难以解释其依赖哪些时间步的信息。未来可采用更简单的线性模型，通过稀疏性约束读取系数，作为“时间步重要性权重”，提升透明度。
2. 无监督读出优化：当前Softmax平等对待所有伪检查点并非最优。未来可建模为“图模型推断”，将各时间步视为“嘈杂投票”，利用弱监督技术自动学习各步骤可靠度，自适应降低噪声权重。
3. 扩展至大语言模型：WARP目前仅在BERT和GPT-2等小模型上验证。现代大模型（GPT-4、Llama、Qwen等）经历预训练、继续训练、SFT、偏好优化等多阶段，目标差异巨大。简单线性插值是否仍有效尚待验证。此外，当数据领域从十个扩展至数百个时，足迹矩阵复杂度剧增，需开发新的信息提取与表示方法。

核心结论：WARP证明，模型参数不仅是“已知内容”的容器，也是“学习来源”的记录本。无需目睹训练过程，仅通过对比模型当前与初始的“形状”，即可精准反推训练配比。这一“从结果倒推过程”的思路，为AI透明度与可解释性研究开辟了新路径。

在AI模型广泛发布但数据食谱保密的背景下，这种“通过品尝反推食材”的能力，将成为研究者与监管者的重要工具。

感兴趣的技术读者可通过arXiv编号2607.01686查阅完整论文。

Q&A

Q1：WARP方法需要访问AI模型的训练数据吗？

A：不需要。WARP仅需两样输入：发布的基础模型权重和微调后的模型权重。此外，需少量来自相关领域的“探测样本”（约2500条）用于计算梯度对齐分数。这些样本与真实训练数据完全无关，仅需覆盖目标领域即可。

Q2：Mimic Score是什么，为何能反映数据配比？

A：Mimic Score衡量的是“样本训练影响方向”与“模型实际演化方向”的一致性。若某领域样本能将模型推向与真实训练相同的方向，表明该领域数据在原始训练中占比高。分数越高，该领域在训练数据中的存在感越强，据此可估算各领域配比。

Q3：WARP的估算误差有多大，实际可用吗？

A：在受控实验中，WARP在BERT上的平均绝对误差（MAE）低至0.046，在GPT-2-Small上低至0.104，显著优于传统成员推断方法。以10个领域为例，0.104的误差意味着每个领域平均偏差约10个百分点，可提供可靠的粗粒度配比信息，在数据审计和模型分析中具有实用价值。