LLM

去年生成式AI大爆發，3大公雲業者也紛紛祭出LLMOps工具，如支援提示工程、RAG、模型自動評比，更預告將在今年亮相更多新工具

蘋果用2種技術，讓行動裝置也有辦法執行原本DRAM無法負荷的LLM應用；Google用LLM打造影片生成模型VideoPoet；微軟Azure AI再添新模型，Phi-2小語言模型也上架；瞄準GAI需求，Google要打造端到雲全套工具鏈

Google同步推出Web版AI Studio開發工具，MLOps開發平臺Vertex AI轉為聚焦企業GAI開發的LLMOps平臺，要涵蓋開發、部署到維運更多模型生命周期階段的需求。

全美28家醫療機構響應白宮AI行政命令，承諾要遵守FAVES原則；南韓擴大遠距醫療計畫；Google推出醫療專用LLM服務MedLM；中醫大附醫採用醫療專科級MedLM打造AI輔助醫師；亞東醫院用聯邦學習建早期喉癌嗓音偵測AI

為了用AI解決數學和電腦科學難題，DeepMind的FunSearch的方法運用大型語言模型和評估器（Evaluator），研究人員預期，FunSearch將可為現有科學和工業領域新舊問題找到更好的解法

Mistral AI開源最新模型Mixtral 8x7B，透過採用稀疏混合專家（SMoE）模型架構，在處理大量參數和資料的同時，也維持一定的計算效率，在多數基準測試上超越Llama 2 70B（700億參數）和GPT 3.5模型

臺北榮總昨日揭牌自家超級電腦，由4節點共32張A100 GPU組成一叢集運算平臺，要加速精準醫療和智慧醫療發展，如基因序列資料分析、數位病理和智能藥物開發等，未來將視算力使用程度來擴充超級電腦。同時，北榮也展示新啟用的智慧科技加護病房，配置了AI防護衣穿脫魔鏡等新設備。

Cisco人工智慧助理讓用戶以自然語言探索訪火牆規則，快速進行除錯，並消除冗餘規則和錯誤配置