liguodongiot/llm-action
Public本项目旨在分享大模型相关技术原理以及实战经验（大模型工程化、大模型应用落地）
Bee AI phân tích repositoryBETA
AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.
Cập nhật lần cuối: 27/09/2026
Tóm tắt bởi Bee AI
Kho tài liệu và mã nguồn toàn diện chia sẻ nguyên lý kỹ thuật cùng kinh nghiệm thực chiến về kỹ thuật công nghệ mô hình ngôn ngữ lớn (LLM), từ huấn luyện, tinh chỉnh, nén đến triển khai suy luận.
- Bao quát toàn diện quy trình LLM gồm tiền huấn luyện, tinh chỉnh tham số hiệu quả (PEFT, LoRA, QLoRA), căn chỉnh (RLHF, DPO) và suy luận phân tán.
- Cung cấp hướng dẫn chuyên sâu về tối ưu suy luận và nén mô hình như lượng hóa (GPTQ, AWQ, FP8/FP4), cắt tỉa (pruning) và chưng cất tri thức.
- Tổng hợp kinh nghiệm thực chiến thích ứng LLM trên phần cứng nội địa Trung Quốc như chip Huawei Ascend (昇腾 910/910B) với MindIE.
- Chia sẻ các bộ benchmark đánh giá hiệu năng (AIPerf, GenAI-Perf, EvalScope) và câu hỏi phỏng vấn chuyên sâu về LLM.
Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.
- Độ phổ biến96
- Độ tươi80
- Cộng đồng40
- Tài liệu100
- Phát hành20
- Mức độ khóNâng cao
- Phù hợp vớiLập trình viên · Nhà nghiên cứu
- Loại dự ánTài liệu
- Giấy phépApache-2.0
Kiến trúc & Công nghệ
Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.
Tech stack
Python
PyTorch
Hugging Face
Transformers
LangChain
vLLM
CUDA
Docker
Kubernetes
Bash
Kiến trúc tổng quan
Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.
ai-compiler/Tài liệu và mã nguồn về AI Compiler (MLIR, XLA, TVM, Treelite)ai-infra/Tài liệu hạ tầng phần cứng và mạng AI (NVMe SSD, InfiniBand, GPU/TPU)llm-train/Hướng dẫn và mã thực hành huấn luyện, tinh chỉnh LLM phân tánllm-inference/Tài liệu và mã nguồn về các công cụ và kỹ thuật suy luận LLMllm-compression/Tài liệu về kỹ thuật nén mô hình như lượng hóa, tỉa thưa và chưng cấtllm-eval/Tài liệu và công cụ đánh giá năng lực cũng như đo kiểm hiệu năng suy luận LLMllm-localization/Hướng dẫn thích ứng LLM trên chip tăng tốc AI nội địa (Huawei Ascend)llm-interview/Bộ câu hỏi phỏng vấn tuyển dụng chuyên đề kỹ thuật LLM
Hướng dẫn nhanh
Các bước để bắt đầu với repository này.
git clone https://github.com/liguodongiot/llm-action.git
cd llm-actionCác use case chính
Những ứng dụng có thể xây dựng từ repository này.
- Học cách tinh chỉnh mô hình ngôn ngữ lớn (LLaMA, ChatGLM) sử dụng PEFT, LoRA, QLoRA và DeepSpeed.
- Xây dựng hệ thống suy luận và phục vụ mô hình hiệu năng cao với vLLM, SGLang hoặc Triton Inference Server.
- Đánh giá chất lượng và kiểm thử áp lực hiệu năng (throughput, TTFT) cho các dịch vụ LLM.
- Triển khai và tối ưu LLM trên hạ tầng phần cứng Ascend 910B sử dụng MindIE.
Repository tương tự
Cùng chủ đề trong kho Bee.
- 1
affaan-m/ECCThe agent harness performance optimization system. Skills, instincts, memory, security, and research-first development for Claude Code, Codex, Opencode, Cursor and beyond.294k+6k
- 2
NousResearch/hermes-agentThe agent that grows with you259.2k+2.4k
- 3
firecrawl/firecrawlSupercharge your AI agents with data from the web and beyond. Building the library for superintelligence. 🔥197.4k+2.4k
- 4
Significant-Gravitas/AutoGPTAutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters.187.8k+120
- 5
ollama/ollamaGet up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.185.5k+822
Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 27/09/2026.