← 全部筆記
Tag

Deployment

2 篇相關筆記

LLM 部署的挑戰：延遲、吞吐、成本 Deployment 24 min 量化：FP16、INT8、INT4 的取捨 Quantization 28 min