圖片來源: 

攝影/余至浩

重點新聞(09/28~10/04)

 英特爾     開發者雲  

英特爾Developer Cloud正式推出,可供開發者在雲端測試和部署LLM模型等新的工作負載

經過將近1年測試 ,英特爾在年度創新日上宣布Developer Cloud開發者雲正式GA,現在開發者已經可以透過該雲端平臺使用其最新硬體進行AI應用測試和部署,包括AI硬體加速器Gaudi2、第5代Xeon Scalable處理器及資料中心GPU Max系列等。

英特爾介紹其開發者雲平臺,其中包含了多種英特爾最新硬體平臺可以對應到不同規模的AI或LLM模型訓練和推論的測試需求,例如開發者可以使用Xeon Scalable伺服器,在小型或中型的VM上執行小模型的推論和微調(參數介於70~200億),此外,還可進一步搭配具備算力更強的Gaudi2或是資料中心GPU Max系列等,以支援500億參數的大模型推論。

值得一提的是,英特爾計畫在年底推出以Gaudi2為基礎的大型運算叢集服務,可用於上千億參數的LLM模型訓練,頗有與同樣今年發表的Nvidia DGX Cloud超級電腦運算服務互別苗頭的意味。

但與Nvidia不同的是,英特爾主要是自行建置該雲端平臺,並沒有提供公雲託管的選項。除了硬體平臺,英特爾開放使用Intel AI和機器學習工具套件與函式庫,可供用戶加速模型評估和開發,以縮短產品開發到上市的時程。

另外,在資料安全方面,除了透過機密運算提供硬體加密保護機制,英特爾最新加入Trust Authority可信環境執行的驗證服務,強化在開發者雲的資料保護。Developer Cloud目前共推出三種服務方案,分別是免付費的標準版、按需付費的專業版,以及團體的企業版。

 

AWS    生成式AI建置服務  

AWS生成式AI建置服務Bedrock正式推出,新增Llama 2模型及嵌入式LLM

雲端巨頭AWS 近日宣布自家的生成式AI建置服務Bedrock現已推出,可協助用戶建立生成式AI應用,藉此替他們在雲端生成式AI競賽上扳回一成。

Bedrock是一個基礎模型API服務,用戶可以透過API存取AWS的基礎模型,開發自己的生成式AI應用,也能夠使用AI21 Labs、Anthropic、Cohere、Meta、Stability AI等第三方的基礎模型,AWS在4月介紹這項新服務,並在9月底正式推出。同時增加Meta的Llama 2和嵌入式Titan Embeddings兩個新模型供用戶選擇。

AWS強調,Bedrock採用無伺服器架構,因此客戶無需管理任何基礎設施,就能將生成式AI功能迅速整合和部署到他們的應用程式中。

為了強化Bedrock服務,AWS母公司Amazon最近剛向OpenAI競爭對手Anthropic投資40億美元,要讓Anthropic能深度支援Bedrock。

 

生成式AI助手     SAP  

SAP發表生成式AI助手Joule ,將整合到S/4HANA ERP在內等雲端應用服務

搶搭生成式AI熱潮,ERP大廠SAP最近推出了名為Joule的生成式AI助手,並計畫將其內建在人力資源、費用支出、供應鏈、採購、客戶體驗管理及SAP商業技術平臺中,藉此提高用戶使用體驗。

例如企業可以向Joule提問,快速整理出各地區銷售表現排名,也能夠分析資料庫的資料找出供應鏈問題後,再透過供應鏈系統提出建議,甚至未來還能協助人資編寫新職缺,或是列出建議的面試問題等。

Joule預計今年稍晚將在SAP人資雲和SAP Start中推出,明年初跟進在SAP S/4HANA Cloud標準版中提供,後續將在SAP CRM雲、SAP採購雲和SAP商業技術平臺推出。

Azure    Oracle資料庫服務  

微軟擴大與資料庫巨頭Oracle合作,使企業能在Azure中部署甲骨文OCI的資料庫服務

微軟近日宣布與甲骨文(Oracle)擴大結盟,推出Oracle Database@Azure新服務,將在Azure資料中心開始提供甲骨文雲端基礎設施(Oracle CloudInfrastructure,OCI)上的Oracle 資料庫服務。

這並不是微軟與甲骨文的首次合作,早在去年雙方推出適用於 Azure的Oracle資料庫代管服務,讓企業可以在OCI環境中使用Azure管理工具布建、存取及執行Oracle資料庫服務。

新推出Oracle Database@Azure服務,看起來就像是將整套甲骨文雲端基礎設施的環境搬進了Azure資料中心,因此具備和OCI環境中執行資料庫服務相同性能、擴充規模及工作負載可用性,同時能利用Azure的安全、彈性及多元化服務等特性。微軟表示,用戶可於Azure中部署Oracle ExadataDatabase、Oracle Autonomous Database及Oracle Real Application Clusters等資料庫服務。此外,雙方強調此一整合環境將簡化用戶於Oracle資料庫及Azure之間的雲端採購及管理。

跨平臺整合    生成式AI   

Google與Salesforce結盟,要讓Workspace生成式AI助手能容易取得企業CRM資料優化其生產力

近期, Google宣布與CRM業者Salesforce擴大合作,推動跨平臺的生成式AI體驗,將整合Google Workspace中生成式AI助手Duet AI和Salesforce Customer 360平臺的生成式AI助手Einstein Copilot,優化各自在企業CRM和生產力工作流程。

舉例來說,Duet AI可以根據企業用戶帳戶、聯絡人和來自Salesforce的CRM資料,產生自訂的Google簡報和文件,還能將自Gmail和Google日曆的Google Meet會議摘要和上下文匯入到Salesforce系統中以更新其記錄,並自動安排後續行動和分配任務等,例如將已簽署的合約發送至 Salesforce相關服務中,並根據文件數據產生盈虧報告等。此外,Einstein Copilot也能夠存取Workspace中的相關上下文,以優化銷售、服務、行銷、商務等領域的工作流程。

在資料保護方面,Google表示,將整合Salesforce和Google Workspace 中現有的隱私和用戶資料保護機制。除了有跨平臺的生成式AI助手合作,雙方進一步還將提供LLM模型的跨平臺互通,使用戶未來在Vertex AI部署的LLM模型,如PaLM 系列模型,將能在Salesforce的Einstein 1平臺中來執行。

企業碳盤查     NLP  

IBM更新碳排放資料平臺Envizi,導入NLP技術簡化盤查資料的分類和管理

近日,IBM更新雲端碳排放資料平臺Envizi,新增了自然語言處理(NLP)功能,讓企業開始可以用更自動化的方式,完成對碳排放源資料的分類和管理,加快包含範疇3在內的企業碳盤查工作。

Envizi是IBM去年推出的碳排放資料蒐集和監控的雲端軟體套件,不僅限於IBM產品,也支援其他第三方的IT或OT設備。該平臺還包含了內建的嵌入式排放因子庫,涵蓋了超過180個國家和地區,可用於計算排放數據。

IBM表示,使用NLP的文字分類功能,將有助於企業自動提取、彙整和管理排放計算和外部揭露所需的相關支出數據,提高盤查作業效率。

 

攝影/余至浩 圖片來源/AWS、SAP

 更多Cloud動態 

1.本土電商PChome大舉擁抱雲端加速轉型新零售,不只電商購物平臺,連核心系統ERP都要上公雲

2.德國百年老車廠BMW宣布將採用公雲,結合生成式AI、物聯網開發下一代ADAS自動駕駛平臺

資料來源:iThome整理,2023年10月

 

熱門新聞

Advertisement