经过最新的评估,蒸馏者从Claude模型中获取的推理数据量已减少至90%至99%之间。这一数据来自Anthropic对其平台运营情况的深入分析,且此降幅得益于新的保护机制的实施。蒸馏攻击的本质是,攻击者通过大量请求以获取Claude的回答和推理记录,随后利用这些数据来训练性能较弱的模型。Anthropic指出,推理记录能够清晰展示模型是如何得出具体答案的,因此其训练价值远高于最终的回答,这也是它需要得到保护的原因所在。
在Anthropic内部进行的一组对比测试中,研究人员评估了完整推理记录在训练中的应用效果。结果显示,使用完整推理记录训练的模型在编程基准测试中获得了80.4%的得分,而仅使用推理摘要进行训练的模型则仅得到了71.8%。这一差异突显了完整记录在模型训练中的重要性。Anthropic也承认,具体的蒸馏效果及训练结果会因操作方法和模型的不同而有所差异。
为了进一步封堵这一漏洞,Anthropic对部分Claude模型引入了保留思考机制。例如,从2026年8月31日起,所有新注册的API账户将无法编辑Claude先前的对话上下文。同时,不同版本的模型在读取推理记录时也受到了限制,例如Claude Sonnet 5.5的推理记录仅限于发起请求的组织内部。 吉祥体育下载
在识别异常请求的环节,Anthropic采用了一种双阶段分类器,专门监控试图提取隐藏推理的请求。例如,当用户试图让模型翻译之前的推理或者将推理内容嵌入特定标签时,分类器会发出警示。对于持续进行这种操作的账户,它们可能面临更为严格的使用限制,甚至会被封禁。Anthropic表示,分类器上线后,平台上提取的推理token数量显著下降,且已封禁了数万个试图进行蒸馏的账户。然而,这项措施的代价也显而易见,保留思考机制要求部分开发者调整其接口集成,而分类器也可能意外拦截正常请求,导致正常交易受到影响。Anthropic声明其总体误报率低于0.1%,但所有被拦截请求仍将被正常计费。
至于当前降幅是否能长期保持,Anthropic表示仍需进一步观察。迄今为止,似乎尚未发现具有高度复杂性和适应性的规避措施,因此当前的下降幅度仍需持续关注。