圖片來源: 

AWS

OpenAI最新開放權重模型gpt-oss系列除了原本的Hugging Face外,並新增Windows邊緣開發平臺及AWS二個新通路。

OpenAI昨日公布的gpt-oss-120b和gpt-oss-20b為GPT-2推出6年後首個開放權重的基礎語言模型,其中gpt-oss-120b是該公司最強大的開放權重模型,適合單一H100 GPU平臺。gpt-oss-20b適合低延遲性應用,甚至可在消費型筆電上執行。

兩款模型是OpenAI回應美國業界及政府對其開源研發成果,以促進美國AI應用普及、進而對抗中國競爭的期望。OpenAI表示,開放模型允許政府或講求資料安全的組織自建模型及AI應用。

相應於普及推廣的策略方向,gpt-oss模型也分別首次在微軟平臺以及Amazon Web Services(AWS)上架。微軟宣布,新模型將在Azure AI Foundry及Windows AI Foundry提供給開發人員。其中Windows AI Foundry允許開發人員將開源碼模型執行在邊緣裝置的AI平臺,聲稱可支援在Windows平臺上的低延遲性本地AI部署。

微軟今年5月宣布Windows AI Foundry,它將微軟模型目錄Foundry Local整合到Windows 11中,用以管理和執行開源LLM,也能整合第三方的模型目錄如Ollama和Nvidia NIM以便在本地App中使用、測試模型、或與模型互動。微軟說,這是OpenAI模型(即gpt-oss-120b及gpt-oss-20b)首次能在本地模型執行。

另一方面,AWS本周宣布,gpt-oss-120b及gpt-oss-20b首度Amazon Bedrock和Amazon SageMaker AI上架。開發人員可在Amazon Bedrock平臺上執行以API呼叫gpt-oss模型,也可以在機器學習平臺Amazon SageMaker AI上訓練或客製、微調模型。

AWS宣稱,OpenAI二個開放模型的Bedrock平臺上的效能價格比,是同等規模的Gemini模型的10倍,DeepSeek R1的18倍及OpenAI o4的7倍。

AWS也是OpenAI在微軟之外,尋求的最新雲端合作夥伴。在此之前是甲骨文;6月甲骨文宣布新服務OpenAI Adapter,使企業可在Oracle Integration Cloud中使用OpenAI Adapter呼叫OpenAI模型。

熱門新聞

Advertisement