xlite-dev/Awesome-LLM-Inference
Public📚A curated list of Awesome LLM/VLM Inference Papers with Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉
Bee AI phân tích repositoryBETA
AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.
Chưa có bản phân tích AI cho repo này
Bee AI sẽ đọc README và cây file rồi tóm tắt bằng tiếng Việt và tiếng Anh, mất khoảng 30–60 giây.
Hôm nay đã hết lượt phân tích hoặc tính năng đang tắt. Thử lại sau.
Tối đa 5 lượt mỗi giờ cho một địa chỉ IP · ngân sách chung theo ngày.
Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.
69/100Điểm tổng thể
- Độ phổ biến75
- Độ tươi80
- Cộng đồng43
- Tài liệu50
- Phát hành100
- Mức độ khóCó sau khi phân tích
- Phù hợp vớiCó sau khi phân tích
- Loại dự ánCó sau khi phân tích
- Giấy phépGPL-3.0
Hướng dẫn nhanh
Các bước để bắt đầu với repository này.
bash
git clone https://github.com/xlite-dev/Awesome-LLM-Inference.git
cd Awesome-LLM-InferenceRepository tương tự
Cùng chủ đề trong kho Bee.
- 1
ollama/ollamaGet up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.185.4k+894
- 2
huggingface/transformers🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.168.4k+319
- 3
langgenius/difyBuild Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so teams move from prototype to production without rebuilding the stack.160k+651
- 4
Snailclimb/JavaGuideJava 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发159.4k+132
- 5
nexu-io/open-designThe 1st Collaborative AI Design Agent Workspace. Local-first and open source. Create motion, prototypes, websites, apps, dashboards, presentations, images, and videos with your team and AI agents. Share work, exchange feedback, and iterate together in one workspace.105k+1.5k