Anthropic宣布其Claude Sonnet 4模型現支援最高100萬Token的上下文長度,提升為原本的5倍,使開發者能在單一請求中處理規模更大的資料與程式碼。目前長上下文功能仍處於公測階段,已於Anthropic API與Amazon Bedrock開放使用,並計畫近期在Google雲端的Vertex AI推出。

上下文長度擴充代表模型在一次對話中能保留並運用更多資訊,對需要跨檔案分析與多步驟推理的應用尤其重要。在程式碼分析情境中,開發團隊可一次載入更完整的程式碼庫,包括原始碼、測試與文件,讓Claude掌握系統架構,辨識跨檔案相依性,並在生成建議時能夠兼顧整體設計。

在文件處理上,開發者可同時載入與分析數百份合約、技術規格書或研究論文,掌握資料關聯性的全貌。長上下文也讓智慧代理能在多工具呼叫與長流程任務中維持一致脈絡,減少反覆提供背景資訊的需求。

Anthropic針對長上下文導入分級計價,輸入長度在20萬Token以內,收費為輸入每百萬Token 3美元,輸出15美元,而超過此長度則調整為輸入6美元,輸出22.5美元。針對龐大內容處理需求,官方建議搭配提示詞快取功能降低延遲與成本,並指出結合批次處理可再節省約50%的費用。

熱門新聞

Advertisement