ModelCloud/GPTQModel
PublicLLM model quantization (compression) toolkit with HW acceleration support for Nvidia, AMD, Intel GPU and Intel/AMD/Apple CPU via HF, vLLM, and SGLang.
- Stars1.3k+6 tuần này
- Forks213
- Watchers6
- Issues4
- Ngày tạo17/06/2024
- Cập nhật gần nhất30/10/2026
Ngôn ngữPython- Giấy phép—
Repo này không có README
Chủ repo chưa viết README, hoặc file chưa được đồng bộ về Bee. Xem trực tiếp trên GitHub.
Mở trên GitHub