微軟公布首個自製晶片Maia 100、Cobalt 100 CPU

在業界傳聞許久後，昨日在Ignite大會上，微軟終於公布自製晶片。

微軟一口氣公布二個自行設計的晶片，一為Microsoft Azure Maia 100 AI加速器，專為執行AI及生成式AI而設計，二為Microsoft Azure Cobalt CPU，為執行Azure雲端上通用型運算作業的Arm架構處理器。

微軟強調，這些晶片是微軟從晶片、軟體與伺服器到機架、冷卻系統100%全自製願景的最後一項元素。這些晶片預計明年初將出貨到微軟資料中心，將先用於執行Copilot（Bing Chat）AI及Azure OpenAI Service。

Maia 100為Maia加速器系列中的第一款，是5奈米製程。微軟指出，Maia 100晶片上有1050億顆電晶體，將用來執行Azure上最大的內部AI負載，目前也已用於執行OpenAI大型模型。Cobalt 100是64-bit處理器，一顆裸晶上有128核心。微軟表示，比Azure使用的其他ARM架構晶片耗電量少40%。Cobalt 100也是Cobalt系列的第一款，目前已用於執行Teams及Azure SQL服務。

微軟表示，自製晶片可確保所有元素都是為了微軟雲端和AI作業需求，這些晶片將安裝於客製化伺服器主機板上，置入專為微軟資料中心特製的機架，而這硬體將整合微軟和合作夥伴共同開發的軟體。最終目標是一臺Azure硬體系統，具備高度彈性，又能滿足省電、效能及成本的目標。

微軟昨日並宣布Azure Boost正式推出。這系統可將儲存和網路功能由主機伺服器卸載到專用硬體上，以提升速度。此外，為了配合客製化晶片，微軟也宣布多家合作夥伴，以為Azure客戶提供更多基礎架構選擇。

微軟並預覽為Nvidia H100 Tensor Core GPU打造的NC H100 v5 VM系列，適合中型AI訓練和生成式AI推論作業。微軟也將Nvidia H200 Tensor Core GPU列入明年陣容，以支援大型模型推論且不會增加延遲性。

微軟指出，還是會持續和Nvidia及AMD合作Azure用的晶片。微軟計畫明年再增加Nvidia最新Hopper GPU晶片，以及AMD GPU MI300。

微軟也是雲端巨擘中，最後一個加入自製晶片的。Google 2016年就推出了Tensor處理單元（TPU），Amazon更設計了Graviton、Trainium及Inferentia等晶片。