PyTorch釋出可大幅改進AI模型運算效能的torchao函式庫
PyTorch全新原生函式庫torchao,利用低精度資料型態、量化和稀疏性技術,顯著降低模型的計算成本和記憶體使用,提升推理與訓練效能
2024-10-02
| TensorFlow Lite | 量化 | 準確度 | 成大 | 科技防疫 | Nvidia | AR | IT周報
AI趨勢周報第128期:Google釋出QAT API,加速部署更輕、更快的ML模型
Google釋出量化意識訓練QAT API,既能讓使用者在訓練、部署模型時,享有量化更輕更快的好處,一方面又能確保模型準確度。另一方面,TensorFlow Lite近日也釋出一系列更新,像是加入3種優化的BERT模型,也新增Model Maker工具來加速訓練,就算不具專業AI知識,也可快速上手。
2020-04-16