amitshekhariitbhu/ai-system-design

Public

AI System Design - Learn how to design AI systems built on LLMs, RAG, and AI Agents step by step.

Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 13/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

Tài liệu và lộ trình học toàn diện về AI System Design, hướng dẫn thiết kế các hệ thống LLM, RAG, AI Agent, hạ tầng phần cứng GPU và tối ưu chi phí phục vụ thực tế và phỏng vấn kỹ thuật.

  • Phân tích chi tiết cơ chế suy luận LLM gồm prefill, decode, KV Cache, Paged Attention và tính toán song song như Tensor Parallelism.
  • Bao quát các kỹ thuật truy xuất nâng cao như Hybrid Search, HyDE, ColBERT, Agentic RAG và GraphRAG.
  • Giải thích chi tiết về AI Agent, Model Context Protocol (MCP), hệ thống bộ nhớ runtime và mô hình Multi-Agent.
  • Cung cấp khung làm việc 8 bước giải quyết bài toán AI System Design kèm các case study thực tế như Cursor và Claude Code.

Lưu ý

  • Dự án mang tính chất tài liệu lý thuyết, kiến trúc và lộ trình học tập, không bao gồm mã nguồn phần mềm thực thi.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến20
  • Độ tươi100
  • Cộng đồng45
  • Tài liệu100
  • Phát hành20
  • Mức độ khóTrung bình
  • Phù hợp vớiLập trình viên · Sinh viên
  • Loại dự ánTài liệu
  • Giấy phépApache-2.0

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • OpenAI API
  • Anthropic API
  • MCP
  • WebSocket

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • assets/Thư mục chứa sơ đồ kiến trúc và hình ảnh minh họa cho tài liệu

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/amitshekhariitbhu/ai-system-design.git
cd ai-system-design

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Ôn luyện và chuẩn bị cho các vòng phỏng vấn AI System Design và AI Engineer.
  • Thiết kế kiến trúc hệ thống phục vụ LLM với các giải pháp caching, gateway định tuyến và rate limiting.
  • Xây dựng hệ thống RAG và hệ thống AI Agent có hỗ trợ tool calling, memory và giao thức MCP.
  • Tối ưu hóa chi phí GPU và độ trễ thông qua quantization, continuous batching và speculative decoding.

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1morluto/reaReverse engineer anything with agents, from app behavior down to native binaries.407.3k+41.7k
  2. 2openclaw/openclawThe AI that really does things. Any OS. Any Platform. The lobster way. 🦞393.4k+592
  3. 3obra/superpowersAn agentic skills framework & software development methodology that works.308.4k+4.7k
  4. 4affaan-m/ECCThe agent harness performance optimization system. Skills, instincts, memory, security, and research-first development for Claude Code, Codex, Opencode, Cursor and beyond.292.6k+6.2k
  5. 5deepseek-ai/deepseek-harnessDeepSeek Harness: Everything is a Plugin.265.7k+7.6k

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 13/10/2026.