Mozilla.ai開源專案any-llm v1.0，統一API串接雲端與本地語言模型

Mozilla.ai推出any-llm v1.0，提供可同時串接雲端與本地大型語言模型的統一API介面。any-llm專案的核心想法，是以一套穩定一致的介面，簡化開發者在不同模型與供應商間切換的成本，讓開發者無需因應各家API差異重寫程式碼，即可在OpenAI、Anthropic與Mistral等雲端模型，以及本地部署方案如llama.cpp與llamafile之間靈活轉換。Mozilla.ai強調，這樣的架構能降低系統耦合度，讓應用層邏輯免於被單一供應商綁定。

在1.0版本中，官方著重於穩定性與一致性。新版本新增對OpenAI風格的Responses API支援，並提供List Models API，可程式化查詢各供應商可用模型，同時引入同一連線可多次重用的用戶端連線機制，以提升在並行或串流用例的效能表現。推理輸出也被標準化，讓開發者能跨供應商取得一致的推理欄位結果。此外，還會自動更新相容性矩陣，清楚呈現各模型供應商的功能支援情況。

Mozilla.ai表示，any-llm v1.0採用非同步優先架構並支援串流回傳，能更有效應對高吞吐量任務。為避免版本更新造成非預期變化，系統對於即將修改的介面會標示棄用或實驗性狀態，方便開發者預先調整。

Mozilla.ai計畫未來版本新增原生批次推論功能、支援更多供應商，並深化與同系列專案any-guardrail、any-agent及mcpd的整合。