精选国内外AI工具, 查看最新收录

微软发布Maia 300芯片

Analytics India Magazine 返回资讯

微软近日正式发布自研AI芯片Maia 300,官方数据显示其每兆瓦功耗可处理的token数量较上一代提升40%。这一指标直指当前AI数据中心最核心的成本痛点——能耗。随着大模型推理需求爆发,电力已成为制约算力扩张的关键瓶颈,微软此举意在用更少的电跑出更多的推理量。Maia系列是微软减少对英伟达GPU依赖的重要筹码。此前微软Azure的AI算力高度依赖英伟达H系列芯片,成本与供应均受制于人。Maia 300的迭代表明微软正加速自研芯片的落地节奏,力图在推理场景中构建自主可控的算力底座。对云客户而言,更高的能效比意味着单位推理成本有望下降;对行业而言,这进一步印证了科技巨头自研AI芯片的浪潮正从训练向推理全面铺开。


原文:Analytics India Magazine

资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗

会员留言

推荐工具↑ ↓ 选择 Enter 打开