| Cerebras Inference | AI推論解決方案 | Nvidia | Cerebras
Cerebras發表Cerebras Inference,號稱全球最快AI推論解決方案
Cerebras強調自家AI推論解決方案執行Llama 3.1模型的效能,比基於Nvidia GPU的大型雲端解決方案快上20倍,但價格只需1/5
2024-08-28
媒體The Information取得Nvidia合作夥伴說法,指出Nvidia Blackwell晶片因設計瑕疵,無法在今年第4季如期出貨
2024-08-05
| Nvidia | CVE-2024-0108 | AI | Jetson | Jetpack
上週Nvidia針對旗下GPU單板電腦平臺Jetson發布資安公告,修補高風險漏洞CVE-2024-0108,並指出若不處理,攻擊者有可能發動阻斷服務攻擊、提升權限、執行任意程式碼
2024-07-30
| Nvidia | OpenVDB | fVDB | 神經網路
Nvidia整合OpenVDB釋出fVDB開源框架,支援大規模3D資料深度學習任務
Nvidia以OpenVDB為基礎建構開源fVDB框架,其專為大規模3D資料集設計,支援高效深度學習操作和GPU加速,適用於生成式物理AI和空間智慧應用
2024-07-30
| Hugging Face | Nvidia | Nim | Inference-as-a-Service | 生成式AI | 推論即服務
Hugging Face推出依用量計價的Nvidia NIM推論即服務
Hugging Face企業平臺推出雲端推論即服務(inference-as-a-service),以Nvidia DGX Cloud以及容器化推論微服務NIM為技術核心
2024-07-30
| IT周報 | Mamba | 程式碼生成 | Meta | Llama 3.1 | 蘋果 | Transformer | Nvidia
AI趨勢周報第257期: Mistral AI用Mamba架構打造程式碼生成模型
Mistral AI用Mamba 2架構打造程式碼生成模型,表現比同規模的Transformer模型好;Hugging Face釋出小又強健的語言模型SmolLM;Meta開源Llama 3.1 405B;有效加速Transformer生成時間,蘋果推LazyLLM;Nvidia推出企業級模型客製化平臺AI Foundry
2024-07-26
| Nvidia | AI Foundry
Nvidia推出企業用AI模型客製化平臺AI Foundry
Nvidia公布AI Foundry服務,目的在讓企業使用資料、高速運算資源和軟體工具來開發部署自製模型,以增強其生成式AI專案
2024-07-25
| Mistral NeMo | Mistral AI | Nvidia
Nvidia與Mistral AI攜手釋出Mistral NeMo
Mistral NeMo定位為企業等級的AI模型,適用於聊天機器人、多語言任務等企業應用,採用Apache 2.0授權,可直接取代Mistral 7B
2024-07-19
| HPE | Nvidia | Nvidia AI Computing by HPE | 生成式AI | 私有雲
HPE發表整合Nvidia技術的Private Cloud AI
HPE Private Cloud AI整合了Nvidia的AI運算、網路及軟體解決方案,以及HPE的儲存、運算及HPE GreenLake雲端服務,來提供企業AI專用私有雲,以安全地開發及部署生成式AI應用
2024-06-19
Nvidia在6月18日的股價以135.58美元作收,市值達到3.335兆美元,以些微差距領先市值3.317兆美元的微軟
2024-06-19
| Nemotron-4 340B | Nvidia | 開源模型 | 指令模型 | 獎勵模型 | 合成資料
Nvidia開源Nemotron-4 340B家族,以供開發者建置大型語言模型
Nemotron-4 340B家族包含了基礎模型、指令模型及獎勵模型,其中指令模型可用來生成大型語言模型的訓練資料
2024-06-17