| AWS | AWS re:Invent 2024 | 模型訓練 | 資料 | RAG | 結構化資料 | 檢索 | 生成式AI

【re:Invent 2024現場直擊】從模型訓練算力配置自動化、提示快取管理到RAG結構化資料支援,AWS揭一系列AI重大更新

在今年度re:Invent大會中,AWS資料與人工智慧資深副總裁Swami Sivasubramanian揭露一系列AI服務重大更新,像是SageMaker新添模型訓練算力自動配置功能、Bedrock推出百個模型的市集,還有能揪出重複性提示的快取管理功能和結構化資料檢索功能。

2024-12-05

| 影片生成模型 | Veo | 圖片生成模型 | Imagen 3 | Google Cloud | Vertex AI

備戰OpenAI影片生成模型Sora,Google新推影像生成模型Veo、Imagen 3

Google Cloud Vertex AI平臺正式上架新一代圖片生成模型Imagen 3,同時開放特定用戶測試影片生成模型Veo

2024-12-05

| Amazon Q Developer | 代理人 | Agent | .NET | VMware

Amazon公布Amazon Q Developer新代理人功能、.NET、主機程式、VMware程式轉換功能

AWS更新Amazon Q Developer,加入文件、品質審查和測試三項代理人(agent)功能,也能協助企業將.NET應用和VMware負載搬移到AWS雲端,或將大型主機程式現代化

2024-12-05

| AWS | AWS re:Invent 2024 | SageMaker | Amazon Q | IT現代化

【re:Invent 2024現場直擊】SageMaker轉型成資料與AI通用大平臺,Amazon Q助手則開始能輔助大型主機現代化

今年度re:Invent 2024技術年會揭露多款AI服務重大更新,不只推出Amazon Bedrock開發和管理多代理協作應用,還將SageMaker重新定位為通用平臺,集結了資料、分析和AI工具。Amazon Q助手也有3大亮點新功能,包括能轉換.NET到Linux、將VMware轉換到雲原生架構,以及協助大型主機現代化工作。

2024-12-05

| AWS | AWS re:Invent 2024 | 雲端 | 儲存 | Amazon S3 | Parquet | Metadata

【re:Invent 2024現場直擊】S3雲端儲存兩大新功能瞄準AI需求,Iceberg超大型資料表查詢能快3倍,還能自動產生Metadata

在今日re:Invent年會中,AWS執行長Matt Garman揭露2項雲端儲存服務新功能,包括Amazon S3 Tables,支援3倍查詢加速的Iceberg資料表,以及Amazon S3 Metadata預覽版,可自動為物件產生Metadata,加速使用者找到所需資料、用於分析。這2大新功能都瞄準AI需求。

2024-12-04

| AWS | AWS re:Invent 2024 | 運算 | 執行個體 | Nvidia | Blackwell | UltraServer

【re:Invent 2024現場直擊】AWS執行長揭運算服務新亮點,專為GAI設計推P6、Trn2和Trn2 UltraServer執行個體

在今日主題演講中,AWS執行長Matt Garman揭露一系列運算新亮點,包括採用Nvidia Blackwell GPU的P6系列EC2執行個體、AWS自研晶片Trainium2的EC2 Trn2執行個體,以及由4個Trn2執行個體組成的Trn2 UltraServer執行個體,可用來訓練兆級參數模型。另外,新一代Trainium3晶片將於明年推出。

2024-12-04

| Amazon Nova | AWS | 多模態模型

Amazon公布多模態AI模型家族Nova

AWS發表該公司首款多模態模型Amazon Nova系列,於Amazon Bedrock平臺上提供給企業用戶

2024-12-04

| Nvidia H100 GPU Server | Nvidia H200 GPU Server | AMD Instinct MI300X server

支援AI加速器品牌坐二望三,聯想推出8U、8加速模組的伺服器

聯想推出兩款支援多廠牌AI加速器的8U伺服器,目前均能搭配8個Nvidia H100、H200,或是AMD Instinct MI300X,未來可能搭配AI加速器Intel Gaudi 3,兩款機型的區分在於搭配的中央處理器為英特爾或AMD

2024-12-04

| re:Invent | AWS | 資料中心 | PUE | 多模態冷卻

AWS公布資料中心AI節能技術,新增支援液冷的多模態冷卻系統

在re:Invent大會上,AWS公布新的資料中心基礎架構元件,包括簡化電子電機設計和多模態冷卻系統,提高AWS執行AI的能源效率

2024-12-04

| AWS | re:Invent | Trainium 2 | 晶片 | UltraServer | Claude 3.5 Haiku | Project Rainier | 加速 | 推論

【re:Invent 2024現場直擊】AWS揭Bedrock AI推論加速功能,能讓Anthropic最新模型推論加速60%

在今年re:Invent年會中,AWS揭露Trainium 2 UltraServer主機,也推出全託管AI平臺Amazon Bedrock的AI推論加速功能預覽版,可加速Llama 3.1模型和Claude 3.5 Haiku模型的推論速度。Anthropic共同創辦人暨運算長Tom Brown還透露,下一代Claude模型將由數十萬顆Trainium 2晶片來訓練。

2024-12-03

| Visual Studio | Copilot | 單元測試

Visual Studio新增Debug with Copilot功能,提升單元測試除錯效率

Visual Studio 2022新增Debug with Copilot功能,透過GitHub Copilot自動設置中斷點並分析變數,簡化單元測試除錯流程

2024-12-02

馬斯克請求法院阻止OpenAI轉型為營利機構

馬斯克向法院聲請,請求法官阻止OpenAI轉為營利機構,及和微軟合作鞏固市場壟斷等行為

2024-12-02