阿里巴巴集團CTO兼阿里雲智能總裁張建鋒在今天的大會Keynote上,重磅發布了首款自行研發的人工智慧推論晶片「含光800」

圖片來源: 

阿里巴巴

走過20個年頭的阿里巴巴集團今天在杭州舉辦第10屆的雲棲技術大會,阿里巴巴集團CTO兼阿里雲智能總裁張建鋒在開場演講中,重磅發布了阿里巴巴第一款自行研發的AI推論晶片含光800,也正式推出了採用含光800晶片的雲端AI服務,可供企業直接租用。

阿里巴巴去年成立了達摩院半導體晶片公司平頭哥,先前已推出了RISC-V架構晶片玄鐵910,以及SoC單晶片平臺無劍,這次發表的含光則是一款神經網絡晶片NPU(Neural Processor Unit)。

阿里巴巴集團解釋,平頭哥產品命名多取自神兵寶劍。「含光」是上古三大神劍之一,含而不露,光而不耀,要用來比喻含光晶片可提供無形卻強勁的算力。

張建鋒表示,含光800是全球最高效能的AI推論晶片,在效能上,以業界慣用的ResNet-50測試,含光800單晶片效能最高可以達78,563IPS(Images per second),等於每秒可以處理7萬8千多張圖片,若用功耗比來看,則可提供500IPS/W。

阿里巴巴內部應用已經開始採用含光800晶片,主要用在支援阿里巴巴集團旗下電商平臺,例如產品搜尋、自動翻譯、個人化產品推薦、廣告以及智慧客戶服務等需強大算力的功能,試圖用來改善消費者的購物體驗。

張建鋒以阿里巴巴電商平臺淘寶的購物圖片搜索App「拍立淘」為例,他提到,拍立淘的圖片庫每天會增加10億張圖片,過去,需要耗費1小時,才能對每天新增的這10億張圖片進行識別與分類,作為使用者個人化的搜尋和推薦服務之用。改用含光800晶片後,AI系統只要5分鐘就可完成一樣的事情。

阿里巴巴也秀出含光晶片與業界主流AI晶片,甚至列出與GPU產品的比較,也宣稱,含光的推論性能遠高於業界產品,不過,阿里巴巴沒有揭露是與哪些廠牌的哪幾款產品比較。

含光800與業界主流AI晶片的效能比較表

另一個例子是杭州主城區的交通監視影片分析,阿里巴巴宣稱,過去需要40張GPU卡,可提供300ms延遲的回應速度,改用含光 NPU晶片後,只需4張專用卡,回應速度也快了一倍,只需要150ms。


Advertisement

更多 iThome相關內容