Meta AI應用搬上Arm平臺

Meta與Arm本周宣布從行動端到資料中心的AI合作，包括Meta AI應用程式基礎架構將搬上Arm平臺。

這項合作是本周Meta宣布投資15億美元，在德州El Paso建造一座Gigawatts的AI資料中心的一部份。這座資料中心預計2028年啟用，是Meta在全球第29座資料中心。

雙方稱這項合作是從「從執行機上智慧的毫瓦裝置到訓練世界最先進AI模型的百萬瓦等級系統」，且這次合作可協助Meta全球平臺的多類型運算、負載和應用體驗。

雙方的第一項合作是讓Meta平臺如Facebook和Instagram（IG）的AI排序及推薦系統使用Arm的Neoverse-based資料中心平臺，可望比x86系統提高效能，降低能耗。二家公司將合作把Meta AI基礎架構軟體堆疊，從組譯器、函式庫到AI框架都為Arm架構優化，雙方將合作調校開源元件，例如Facebook General Matrix Multiplication及PyTorch使用Arm向量擴充及效能函式庫，提升推論的效率和傳輸吞吐量。

合作的第二部份是深化雙方AI軟體優化的合作，涵括PyTorch機器學習框架、ExecuTorch邊緣推論runtime引擎與vLLM資料中心引擎。雙方現在已以Arm KleidiAI軟體庫優化Meta的Executorch，也計畫持續改進在行動裝置上的效率，加速模型部署，推升從邊緣到雲端的AI應用效能。

這項消息也是Arm年初傳出組建AI部門計畫生產AI晶片後，雙方合作一項進展，傳聞新晶片今年秋季要推出，而Meta是第一家客戶。

此外，Meta和Arm也計畫持續投入AI相關的開源技術貢獻。本周Arm宣布被任命為開放運算專案（OCP）的董事成員將和AMD及Nvidia推動AI資料中心的開放式、可互操作設計。