Article Detail

让文章阅读回归聚焦体验,在更清晰的结构中理解每一条信息价值

当前文章页采用更稳定的阅读留白、更明确的层级关系与更聚焦的视觉秩序,让用户在更少干扰中完成浏览、理解、判断与延伸阅读。

吉祥体育下载 内容整理更专业
吉祥体育下载 - 数万账户遭封,Claude推理数据泄露量骤减98%

吉祥体育下载 - 数万账户遭封,Claude推理数据泄露量骤减98%

经过最新的评估,蒸馏者从Claude模型中获取的推理数据量已减少至90%至99%之间。这一数据来自Anthropic对其平台运营情况的深入分析,且此降幅得益于新的保护机制的实施。蒸馏攻击的本质是,攻击者通过大量请求以获取Claude的回答和推理记录,随后利用这些数据来训练性能较弱的模型。Anthropic指出,推理记录能够清晰展示模型是如何得出具体答案的,因此其训练价值远高于最终的回答,这也是它需要得到保护的原因所在。

about image

在Anthropic内部进行的一组对比测试中,研究人员评估了完整推理记录在训练中的应用效果。结果显示,使用完整推理记录训练的模型在编程基准测试中获得了80.4%的得分,而仅使用推理摘要进行训练的模型则仅得到了71.8%。这一差异突显了完整记录在模型训练中的重要性。Anthropic也承认,具体的蒸馏效果及训练结果会因操作方法和模型的不同而有所差异。

about image

为了进一步封堵这一漏洞,Anthropic对部分Claude模型引入了保留思考机制。例如,从2026年8月31日起,所有新注册的API账户将无法编辑Claude先前的对话上下文。同时,不同版本的模型在读取推理记录时也受到了限制,例如Claude Sonnet 5.5的推理记录仅限于发起请求的组织内部。 吉祥体育下载

在识别异常请求的环节,Anthropic采用了一种双阶段分类器,专门监控试图提取隐藏推理的请求。例如,当用户试图让模型翻译之前的推理或者将推理内容嵌入特定标签时,分类器会发出警示。对于持续进行这种操作的账户,它们可能面临更为严格的使用限制,甚至会被封禁。Anthropic表示,分类器上线后,平台上提取的推理token数量显著下降,且已封禁了数万个试图进行蒸馏的账户。然而,这项措施的代价也显而易见,保留思考机制要求部分开发者调整其接口集成,而分类器也可能意外拦截正常请求,导致正常交易受到影响。Anthropic声明其总体误报率低于0.1%,但所有被拦截请求仍将被正常计费。

about image

至于当前降幅是否能长期保持,Anthropic表示仍需进一步观察。迄今为止,似乎尚未发现具有高度复杂性和适应性的规避措施,因此当前的下降幅度仍需持续关注。

上一篇 坎特年薪超1500万欧 投身慈善向贫困儿童献爱心... 下一篇 [无下一篇]...

推荐阅读