| IT周報 | 合成資料 | Hugging Face | Groq | LoRa | 微調 | Gemma | google

AI趨勢周報第244期:Hugging Face開源最大合成資料集Cosmopedia

Hugging Face開源全由Mixtral模型生成的250億個Token合成資料集;突破GPU瓶頸!Groq用LPU推論引擎提供最快LLM服務;Google開源AI模型Gemma;BigQuery推出向量搜尋功能,還支援RAG;復旦大學開源優化器LOMO,大幅降低LLM訓練的記憶體資源

2024-02-23

| Groq | LPU Inference Engine | 語言處理單元 | 推論引擎

Groq以LPU推論引擎提供全球最快LLM服務

許多X平臺用戶展示Groq與ChatGPT的效能比較影片,在兩者的對話介面輸入同樣提示,顯示Groq生成答案的速度遠快於ChatGPT

2024-02-21