| Nvidia | TensorRT | AI | 推理

Nvidia釋出TensorRT 8強化大型語言模型推理

最新的深度學習推理SDK TensorRT 8,能夠加速所有基於Transformer模型的對話人工智慧,把推理時間縮短到前一代的一半

2021-07-21

| AI | 微軟 | 語音合成 | google | AutoML | 自然語言 | PDF | Nvidia | TensorRT | 推論 | 萊迪思 | 28奈米 | FPGA | IT周報

AI趨勢周報第114期:快又不漏字!微軟發表FastSpeech能更快產生逼真自然的語音

微軟發表FastSpeech仿真語音生成模型,可快速產生逼真的人類語音,解決語音合成速度緩慢的痛點。Google正式推出AutoML Natural Language,新增了PDF語意理解功能,還可支援5,000個分類標籤,訓練資料量最多可支援1百萬筆文件。Nvidia發表新一代深度學習加速的SDK TensorRT 7,透過優化的編譯器,來加速迴歸和Transformer模型的推論,比傳統CPU快10倍以上。

 

2019-12-19

| 成大 | 數位病理 | 智慧製造 | AVM | IBM | 液體檢測 | Nvidia | TensorRT | Udacity | Gogoro | 科技部 | AI | IT周報

AI趨勢周報第92期:瞄準醫療影像AI!成大正研發數位病理切片AI判讀系統

成大和成大醫院聯手精進多年研究成果,在原有的全景組織體細胞定量分析儀中,導入自行研發的AI系統,要來輔助醫生判讀病理切片。此外,成大也瞄準智慧工業4.1,以智慧工廠自動化iFA雲平臺助製造大廠如日月光、漢翔、台塑等自動AI線上全檢。另一方面,IBM研發AI液體檢測器Hypertaste,可秒速分析飲品、河川湖泊等液體成分。

2019-07-11

| Nvidia | TensorRT | GPU | AI | 深度學習

Nvidia開源高效能推理平臺TensorRT函式庫元件

TensorRT支援熱門的深度學習開發框架,可以最佳化這些框架開發的模型,並部署到嵌入式、自動駕駛或是資料中心平臺

2019-07-08

| TensorFlow | TensorRT | AI | HoneyBot | Nvidia | Deepmind | IBM | google

AI趨勢周報第34期:TensorFlow 1.7版上線,整合Nvidia的TensorRT、新增除錯儀表板功能

TensorFlow 1.7版正式上線,不但與Nvidia的TensorRT整合、提高GPU執行TensorFlow模型的速度,還新增除錯儀表板功能,讓使用者可以暫停執行特定節點或特定步驟的工作來觀察模型的狀態。

2018-04-05

| TensorFlow | google | 深度學習 | GPU | Nvidia | TensorRT

TensorFlow釋出最新1.7版!除了整合Nvidia推理優化引擎TensorRT,還新增追蹤ML建模的除錯儀表板

Google 於3月27日時,正式釋出TensorFlow 1.7版,不僅能整合了Nvidia的TensorRT推理優化引擎,還增添了除錯儀表板,讓使用者可以隨時暫停執行,來觀察不同節點的執行情況

2018-03-31