AWS在re:Invent大會宣布推出新服務Nova Forge,讓企業能在Amazon Nova基礎模型家族的預訓練階段就導入自家資料,從早期檢查點開始打造專用模型。透過資料混合與強化學習,AWS希望在降低災難性遺忘的同時,保留通用推理與安全能力,並最終將客製模型以私有模型方式託管在Amazon Bedrock上。

目前企業導入生成式AI做法多依賴提示工程、RAG,或對現成基礎模型做監督微調與強化學習調校,這些做法雖能快速上線,但都發生在模型完整訓練之後,較難把專業術語與內部流程真正寫進模型底層理解。

Nova Forge則把客製化往前拉到更早的訓練階段,AWS提供Nova家族模型在預訓練、中期訓練與後期訓練的多個檢查點,企業可在Amazon SageMaker AI上持續預訓練,將自家專有資料與AWS整理的Nova訓練資料混合餵給模型,以減少在僅使用企業資料進行持續預訓練(Continued Pre-Training,CPT)時常見的災難性遺忘,維持原有的一般推理與指令跟隨能力。

Nova Forge支援使用企業自有環境的獎勵函數與多輪互動情境,讓模型在更貼近實際業務的模擬環境中學習。AWS表示,該服務可用於長流程任務與代理情境,把任務成功與失敗轉換成強化學習訊號。

針對合規與治理需求,Nova Forge內建責任式AI工具組,提供安全性與內容審查設定。企業可自訂敏感內容處理規則,對金融、醫療或高度受監管產業,在導入模型時保留一定控制力,而非完全依賴雲端服務預設政策。

開發團隊可在SageMaker Studio選擇要承接的檢查點與資料集,訓練完成後再將模型匯入Amazon Bedrock,以私有模型形式提供API。Nova Forge目前先在美東北維吉尼亞區域提供,AWS未公開細部定價,不過外媒CNBC報導指出,該服務訂閱年費為10萬美元,且不包含協助訓練模型的專家服務費用。

熱門新聞

Advertisement