精选国内外AI工具, 查看最新收录

OpenAI在欧盟默认给ChatGPT输出加水印

Ars Technica AI 返回资讯

OpenAI宣布,将在欧盟范围内默认对ChatGPT生成的内容添加水印标记。这意味着欧盟用户使用ChatGPT时,其输出的文本将自动携带可识别的AI生成标识,无需手动开启。此举被视为对欧盟《人工智能法案》透明度要求的直接回应,该法案要求AI生成内容必须可被识别。不过OpenAI也承认,这一水印方案与其他同类技术一样,并非特别可靠,且很容易被规避。 为什么重要?这是主流AI厂商首次在特定司法管辖区默认启用输出水印,标志着AI内容溯源从自愿走向合规驱动。欧盟的监管压力正在转化为产品层面的实际改动,可能为全球其他地区的AI监管提供模板。但水印易被绕过的现实,也暴露出当前AI内容检测技术的根本性局限:在对抗性环境下,标记与去除的博弈几乎必然偏向去除一方。 对谁有用?对欧盟监管机构而言,这是执法抓手;对内容平台和出版商而言,多了一层识别AI稿件的参考;对普通用户而言,影响有限,因为水印本身不改变输出内容,且非欧盟用户暂时不受影响。真正需要关注的是,这类水印能否在恶意使用场景下站得住脚,目前看答案并不乐观。


原文:Ars Technica AI

资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗

会员留言

推荐工具↑ ↓ 选择 Enter 打开