neural-compressor
+6SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression techniques on PyTorch, TensorFlow, and ONNX Runtime
awq
Chủ đề #awq trên GitHub — repository trong kho Beeknoee có gắn topic này.
- Repository
- 2
- Tổng sao
- 2.9k
- 24 giờ
- 0%
- 7 ngày
- +0.2%
- 30 ngày
- +3.8%
Repository trong #awq
Chủ đề khác
Các chủ đề phổ biến khác trong kho Beeknoee
