| Cerebras Inference | AI推論解決方案 | Nvidia | Cerebras

Cerebras發表Cerebras Inference,號稱全球最快AI推論解決方案

Cerebras強調自家AI推論解決方案執行Llama 3.1模型的效能,比基於Nvidia GPU的大型雲端解決方案快上20倍,但價格只需1/5

2024-08-28

| Nvidia | AI晶片 | Blackwell

Nvidia下一代AI晶片傳設計瑕疵將延後至少1季推出

媒體The Information取得Nvidia合作夥伴說法,指出Nvidia Blackwell晶片因設計瑕疵,無法在今年第4季如期出貨

2024-08-05

| Nvidia | CVE-2024-0108 | AI | Jetson | Jetpack

Nvidia修補Jetson單板電腦作業系統的高風險漏洞

上週Nvidia針對旗下GPU單板電腦平臺Jetson發布資安公告,修補高風險漏洞CVE-2024-0108,並指出若不處理,攻擊者有可能發動阻斷服務攻擊、提升權限、執行任意程式碼

2024-07-30

| Nvidia | OpenVDB | fVDB | 神經網路

Nvidia整合OpenVDB釋出fVDB開源框架,支援大規模3D資料深度學習任務

Nvidia以OpenVDB為基礎建構開源fVDB框架,其專為大規模3D資料集設計,支援高效深度學習操作和GPU加速,適用於生成式物理AI和空間智慧應用

2024-07-30

| Hugging Face | Nvidia | Nim | Inference-as-a-Service | 生成式AI | 推論即服務

Hugging Face推出依用量計價的Nvidia NIM推論即服務

Hugging Face企業平臺推出雲端推論即服務(inference-as-a-service),以Nvidia DGX Cloud以及容器化推論微服務NIM為技術核心

2024-07-30

| IT周報 | Mamba | 程式碼生成 | Meta | Llama 3.1 | 蘋果 | Transformer | Nvidia

AI趨勢周報第257期: Mistral AI用Mamba架構打造程式碼生成模型

Mistral AI用Mamba 2架構打造程式碼生成模型,表現比同規模的Transformer模型好;Hugging Face釋出小又強健的語言模型SmolLM;Meta開源Llama 3.1 405B;有效加速Transformer生成時間,蘋果推LazyLLM;Nvidia推出企業級模型客製化平臺AI Foundry

2024-07-26

| Nvidia | AI Foundry

Nvidia推出企業用AI模型客製化平臺AI Foundry

Nvidia公布AI Foundry服務,目的在讓企業使用資料、高速運算資源和軟體工具來開發部署自製模型,以增強其生成式AI專案

2024-07-25

| Mistral NeMo | Mistral AI | Nvidia

Nvidia與Mistral AI攜手釋出Mistral NeMo

Mistral NeMo定位為企業等級的AI模型,適用於聊天機器人、多語言任務等企業應用,採用Apache 2.0授權,可直接取代Mistral 7B

2024-07-19

| 法國 | 反壟斷 | 反托拉斯 | 生成式AI | GPU | Nvidia | 輝達

法國打算控告Nvidia違反市場競爭

法國競爭管理局針對生成式AI市場競爭發布分析報告,當中認定Nvidia在該領域的影響力已達獨占地位,擬採取行動控告這家GPU大廠違反市場競爭

2024-07-02

| HPE | Nvidia | Nvidia AI Computing by HPE | 生成式AI | 私有雲

HPE發表整合Nvidia技術的Private Cloud AI

HPE Private Cloud AI整合了Nvidia的AI運算、網路及軟體解決方案,以及HPE的儲存、運算及HPE GreenLake雲端服務,來提供企業AI專用私有雲,以安全地開發及部署生成式AI應用

2024-06-19

| Nvidia | 市值 | 兆元俱樂部

Nvidia超越微軟成為全球最有價值的企業

Nvidia在6月18日的股價以135.58美元作收,市值達到3.335兆美元,以些微差距領先市值3.317兆美元的微軟

2024-06-19

| Nemotron-4 340B | Nvidia | 開源模型 | 指令模型 | 獎勵模型 | 合成資料

Nvidia開源Nemotron-4 340B家族,以供開發者建置大型語言模型

Nemotron-4 340B家族包含了基礎模型、指令模型及獎勵模型,其中指令模型可用來生成大型語言模型的訓練資料

2024-06-17