AI推論 | iThome

Google Cloud Run GPU正式上線，支援用戶即時啟用Nvidia L4 GPU，無需配額申請，可提升人工智慧推論與批次運算彈性，並有效降低閒置成本

2025-06-09

堅決不做LLM模型的紅帽，如何在GenAI世界中找到自己的新定位，GenAI新戰略背後有哪些思考，以及下一步方向又是如何，紅帽技術長親自剖析背後的布局關鍵

2025-05-21

WebAssembly封裝的AI代理程式檔案超小，更容易落地部署、快速啟動。這項雲原生新技術，在2025年將成為企業IT開發GAI應用的新主流

2024-12-27

AI推論程式碼、CUDA runtime、PyTorch框架和10GB的LLM基礎模型，用Wasm編譯後的Bytecod檔，可以大幅縮小到數MB，比同樣功能的容器或VM映像檔，足足少了1千倍，這正是Wasm冷啟動速度可以超級快的原因。

2024-11-29

Ampere將透過整合其Altra CPU及高通的Cloud AI 100 Ultra AI加速器，開發專為處理大型語言模型推論作業設計的資料中心伺服器晶片，以創造無GPU的AI推論

2024-05-20

數位經濟平臺Digiconomist、比特幣耗電量指數的創辦人Alex De Vries預估到了2027年，AI的用電量可能等同於荷蘭一年的電力使用

2023-10-12

今年9月，Nvidia推出新一代AI推論加速卡Tesla T4，導入最新發表的GPU架構Turing，強化多精度的運算效能

2018-11-29

iThome 研討會

善用 GenAI 技術和工具，快速打造出更多高性價比的應用，不只是考驗企業的 AI 技術能力，更是基礎架構管理、雲原生開發能力、全方位資安與 IT 永續發展的挑戰。

日期: 即日起~08/13

無論你關注 AI 應用、系統架構、開發效能或組織營運，這裡是技術人實戰交流的最佳場域。

日期: 10/14 (二) 、 10/15 (三)

本次高峰會是一場引領資料安全實戰轉型的關鍵行動，專為企業制定未來資安戰略藍圖，引領企業萃取最新的資料安全策略、獲取進階的技術情報，藉以實現資料風險的可見性與控制力，戰勝不斷演變的資料外洩風險。

日期: 8/21 14:00~16:15（13:30 報到）

2025 AWS 台灣雲端高峰會即將登場，邀請您一起深入探討最新推出的 AWS 亞太（台北）區域相關應用，活動當天重點將包含來自全球與本地關鍵企業領袖的主題演講，超過 70 場分堂議程，並設有 ExecLeader 論壇、實作工作坊與新創 AI 賦能日及多項 AI 互動專區，歡迎有興趣的各位即刻

日期: 7/29 (二)、7/30 (三) 08:30 ~ 17:30