精选国内外AI工具, 查看最新收录

字节跳动新设大模型安全部门

财新 返回资讯

字节跳动近日单独设立大模型安全部门,专门负责大模型及智能体相关安全风险的把控。此举意味着公司将AI安全从原有技术团队中剥离,提升至独立建制层面。随着大模型能力快速迭代,智能体自主执行任务带来的不可控性日益凸显,字节选择此时加码安全布局,反映出其对AI落地风险的警觉。 这一调整的背景是,智能体正从对话工具演变为能自主调用工具、操作系统的执行主体。一旦行为越界或被恶意利用,可能造成数据泄露、资金损失甚至系统破坏。字节将安全部门独立,有助于在研发早期嵌入风控机制,而非事后补救,这对国内大模型行业的安全治理具有示范意义。 对字节自身而言,独立安全部门能更高效地协调抖音、飞书、火山引擎等业务线的AI合规需求。对开发者和企业客户来说,这意味着使用字节大模型服务时,安全边界和应急响应将更清晰。对监管层,此举也提供了企业主动落实AI安全责任的观察样本。


原文:财新

资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗

会员留言

推荐工具↑ ↓ 选择 Enter 打开