| 永續 | 加速運算卡 | 伺服器 | 減碳 | 機器學習 | GPU | 耗電 | 散熱

高功耗資料中心時代來臨

除了CPU與GPU,為了提升特定應用程式或服務的執行效能,伺服器搭配各種加速運算卡的機會也越來越多,隨著這些元件所承擔的運算工作日益吃重,接踵而來的耗電量、散熱需求增加狀況,勢必也將浮上檯面,成為企業在考量IT整體能源使用效率時,所無法忽視的因素

2022-03-25

| 封面故事 | ML | AI | 機器學習 | SRE | ML可靠性戰略 | google | 服務可靠性工程

十多年ML系統SRE經驗,Google練出4大ML可靠性戰略

13年前,Google在匹茲堡設立了第一個ML SRE團隊,開始將累積了好幾年的SRE經驗,開始運用到ML系統,先從改善搜尋引擎關鍵字廣告投放精準做起,後來擴大導入到各式各樣的ML服務,甚至要發展成可以支援多模型類型多租戶架構的ML維運平臺

2022-03-15

| 封面故事 | ML | AI | 機器學習 | SRE | ML可靠性戰略 | google | 服務可靠性工程 | ML當機

10多年Google ML維運經驗,歸納19種ML當機情境要注意

Google ML維運團隊分析近百起大型ML當機事故後發現,系統出錯原因不盡然是ML本身問題,而是與系統管理方式有關

2022-03-15

| google | 機器學習 | 碳足跡

機器學習系統遵守4Ms最佳實踐可大幅減少碳排

Google研究發現,當機器學習技術採用4Ms最佳實踐,改進包括模型、機器、機械化以及地圖最佳化4個項目的效率,將可大幅減少能耗和碳足跡

2022-02-21

| google | 機器學習 | 神經網路 | 基因組

Google與加州大學合作,運用神經網路技術加速基因定序

Google與加州大學共同開發的PEPPER-Margin-DeepVariant,這是一種以遞迴神經網路為基礎的基因推理模組,為當前最快的商業基因定序技術

2022-01-18

| Apache | Flink | 機器學習 | Python

Flink ML 2.0改進演算法可用性,還新增Python支援

機器學習函式庫Flink ML 2.0.0擁有重新設計的API,並且因應開發者的需求,開始加入Python支援

2022-01-17

| google | 聯合學習 | 機器學習 | Federated Learning | 聯合重建 | Federated Reconstruction | Gboard | 內容推薦

Google在行動鍵盤Gboard使用聯合重建技術改進推薦品質

聯合重建技術能夠在保有用戶隱私的情況下,使用本地端參數個人化模型,達到大規模進行部分本地聯合學習的目的

2021-12-22

| ONNX | 機器學習 | 模型推理 | ONNX Runtime | Xamarin

ONNX Runtime 1.10支援Xamarin,供開發者建構AI行動應用程式

開發者現在可以使用ONNX Runtime,藉由Xamarin來建構跨Android和iOS平臺的人工智慧應用程式

2021-12-20

| 雲端服務 | AWS | re:Invent | Graviton | Inferentia | Trainium | 自研晶片 | Outposts | SageMaker | ML | 機器學習

AWS迎來雲服務發展15周年,算力、落地布局、AI戰略全面展開

累計至今,AWS已推出超過200項雲服務,涵蓋運算、儲存、ML、分析等,然執行長Adam Selipsk強調這只是開端,一連發布多項新產品和功能,從新一代自研晶片、5G專網服務,到免費精簡版SageMaker服務Studio Lab,凸顯各戰略布局已可更貼近用戶需求

2021-12-20

| AWS | AWS ML Stack | SageMaker | 機器學習

【AWS 2022新戰略3:以SageMaker為核心,降低ML門檻擴大影響力】完善端到端資料戰略,AI工具鏈變成生態系平臺

SageMaker不只是一個完整的ML工具鏈,甚至向下串聯了AWS的各種基礎架構服務,資料服務,向上整合了多種AI應用服務,更要發展成一個完整AI生態系平臺

2021-12-20

| 雲端服務 | AWS | re:Invent | Graviton | Inferentia | Trainium | 自研晶片 | Outposts | SageMaker | ML | 機器學習

硬體自主是公有雲擴張不可忽視的助力

這幾年以來,隨著AWS推出VMware Cloud on AWS,以及日益增多的Arm架構執行個體服務,甚至是今年初出現的高效能儲存Volume搭配,他們正一步步展露自己設計多款晶片的用意

2021-12-20

| GTC技術大會 | 機器學習 | Nvidia | 黃仁勳 | 虛擬分身 | Omniverse | AI引擎Riva | edge AI | UCF統一運算框架

【總覽Nvidia 2022新戰略】以多AI技術實現高擬真的3D虛擬分身,更布局邊緣AI三大關鍵

在秋季GTC技術大會上,Nvidia展示多AI技術應用與更聰明虛擬分身,還推出新ML框架,來因應超大語言模型訓練,還要加速物理模型的建立

2021-12-06