| 大型語言模型 | LLM | 記憶體 | GPU | LLM記憶體擴展 | 高頻寬快閃記憶體 | KV快取卸載
【兩大路線擺脫GPU記憶體容量有限的束縛】LLM記憶體擴展解決方案概覽
為了滿足LLM無止盡的記憶體空間需求，促成記憶體擴展解決方案的興盛發展，涵蓋從開源軟體，到搭配專屬硬體運作等不同形態
2025-09-04
