精选国内外AI工具, 查看最新收录

Anthropic新防护大幅削弱模型蒸馏攻击

Reuters 返回资讯

Anthropic近日宣布,其部署的新一轮安全防护措施能够大幅削弱针对大模型的"蒸馏攻击"。所谓蒸馏攻击,是指攻击者通过大量调用目标模型的API接口,收集其输出结果,再用这些数据训练自己的小模型,从而以极低成本复制原模型的核心能力。Anthropic表示,新防护机制通过检测异常调用模式、限制输出信息量等手段,有效提高了攻击者窃取模型能力的难度和成本。 这一进展之所以重要,是因为模型蒸馏攻击一直是AI公司面临的棘手问题。与直接窃取模型权重不同,蒸馏攻击完全发生在正常API调用范围内,难以被传统安全手段识别。对于投入数十亿美元训练前沿模型的公司而言,能力被低成本复制意味着巨大的商业损失和竞争优势流失。Anthropic此次公开防护效果,也向外界释放了"前沿模型能力可以被有效保护"的信号。 对谁有用?首先是依赖API提供模型服务的AI公司,它们可借鉴相关思路加强自身防护;其次是使用大模型进行二次开发的企业,需重新评估依赖外部模型输出的合规风险;此外,监管机构和安全研究者也可借此更深入理解模型知识产权保护的技术边界与现实挑战。


原文:Reuters

资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗

会员留言

推荐工具↑ ↓ 选择 Enter 打开