NVIDIAを急ぐ微软、でりり9カ月で次世界AI芯片「Maia 300」

NVIDIAを急ぐ微软、でりり9カ月で次世界AI芯片「Maia 300」


Maia 300(示例:微软)

Microsoft 365やAzureのAI推论を担う主力の电视がが、NV IDIA制GPUからますますますのさんとさんとりしますしまするはまするはははれなれならなれなれ

微软已于今年(2026年)1月宣布推出Maia 200,作为Maia的最新产品,下一代已于约9月で出现,由计算机和内存控制器组成的Maia 2nm(N2P)chiplet结构、288GB HBM4内存(18TB/s)、32端口400GbE等。

降低成本是云服务提供商面临的挑战

NVIDIA 的 Rubin 将成为面向 AI 的 GPU 的旗舰产品,Supermicro 已宣布于 9 月份开始发货 Vera Rubin NVL72。

众所周知,AI学习和计算是在NVIDIA GPU上进行的,但也众所周知,它给NVIDIA带来了前所未有的好处。

谷歌云、TPU 8i、TPU 8t

与此同时,云服务提供商正在开发称为人工智能加速器的定制芯片(由台积电等公司制造的内部芯片)。谷歌云从2016年开始推出TPU(张量处理单元),并在今年4月举行的Google Cloud Next上宣布了PU8かT 8t(主要用于学习)和TPU 8i(主要用于推论用)。

AWS、培训3

AWS(亚马逊网络服务)也投资了名为Trainium系列的AI加速器,其最新产品为“Trainium3”,于2025年12月12日在re:Invent 2025上正式公布,并已用于该公司的云服务中。

AWS 的人工智能加速器于 2019 年以“Inferentia”的名称发布,随后推出了 Trainium。

微软、玛雅 100

与此类竞争对手的行为相比,微软的定制芯片在推出其首款产品方面较晚。该人工智能加速器被命名为“Maia”,首款产品名为“Maia 100”,于 2023 年 11 月在公司年度活动“Ignite”上发布。

微软的 Maia 200(产品:微软)

第二代是 Maia 200,于今年 1 月发布。它的设计重点是电源效率和成本效率,特别是通过提高启动时的电源效率,降低了运行成本。

Maia 300 将是第 3 代 Maia 300。新芯片将比 Maia 200 大约 9 个月发布。不过,微软已解释称,实际投资计划在 2027 年。无论如何,应该考虑到新产品将在 1 年后发布。

微软急于投资背后的原因是,由于法国AI模式的迅速传播,AI当时的代币消耗呈爆炸式增长,计算设备处理它们的需求也随之增加。

因此,云服务提供商为每个用户支付固定费用,称为UBB(Usage-Based Billing),即订阅许可证。

对于微软、Microsoft 365等,是USL(固定费用),但对于使用AI模型的“Kowork”和“Autopilot”(旧的Scout),他们正在将其改为UBB(従量制表面)。

云服务提供商需要降低人工智能的成本,因此他们正在积极参与定制芯片。这就是微软在如此短的时间内发布下一代产品的原因。

1メガワトにん可处理的代币增加40%

微软 Maia 300(产品:微软)

微软发布的Maia 300采用了新的多chiplet结构。在 Maia 200 之前,除了 HBM 之外,它都是单芯片结构,HBM 包含在封装中。在300中,一台计算机、4个内存控制器、2个IO、8个堆叠的HBM等混合在一个封装中。

【表1】Maia 100/200300の手机发动电影(微软の资料より原创最作)
玛雅100 玛雅200 玛雅300
流程节点 台积电N5 台积电N3P 台积电N2P
小芯片 HBM HBM コンュートダイ
IO
内存控制器
HBM
动态随机存取存储器 HBM2e HBM3e HBM4
内存带宽 1.8TB/秒 7TB/秒 18TB/秒
内存容量 64GB 216GB 288GB
以太网 12×400G 28×400G 32×400G
兼容 2 层交换机 – – 一致
带宽缩放(双向) 1.2TB/秒 2.8TB/秒 3.2TB/秒
TDP 700瓦(500瓦) 750瓦 950瓦

记忆力也得到了增强。 Maia 200 的 HBM3e 容量为 216GB,而 Maia 300 的 HBM4 容量为 288GB。此外,内存带宽从 Maia 200 的 7TB/s 增加到 Maia 300 的 18TB/s。 200の10.1POPSにに13.8POPS、FP8 利用率は Maia 200の5.1POPSにに6.9POPS 被拉升。

Maia 系列使用 400Gbit 以太网进行扩展。 Maia 200 支持 28 个 400GbE 端口,但 Maia 300 支持 32 个端口。

Maia 300 配备 4 个 Maia 300 刀片(照片由微软提供)

Maia 300 机架,1 个机架最多可容纳 96 个 Maia 300(照片由微软提供)

【表2】Maia 200与Maia 300对比
玛雅200 玛雅300
每盒薯片数 48 96
HBM 带宽可用 341 TB/秒 1,728 TB/秒
HBM 带宽/功耗 5.3GB/秒 10.3GB/秒
HBM容量 10.4TB 27.7TB
MXFP4 485 流行音乐 1,324 人口
电源 64千瓦 167千瓦

Maia 200 每个机架最多可存储 48 个单元,而 Maia 300 每个机架最多可存储 96 个单元(每个刀片 4 个单元,24 个刀片)。每个机架的功耗为167kW,仍然高于NVIDIA的GB300 NVL72(Supermicro产品中为132kW~140kW)。

由于这些增强功能,与 GPU 相比,每 1 MB 可以处理的延迟量将增加 40%。这意味着每个力量的代币数量将会增加。

此外,Maya 300具有“2级交换机”机制,通过在它们之间引入2级交换机,最多可以使用128个机架作为单个上传网络。

据微软称,Maia 300的生产计划于2027年推出,与Maia 200相同。





Source link

Leave a Reply

Your email address will not be published. Required fields are marked *

Instagram Posts Collection

Instagram Posts Collection