Beeknoee Logo
Đăng nhậpĐăng ký miễn phí

ombharatiya/ai-system-design-guide

Public

AI system design guide for engineers building production AI systems and evals.

agentic-aiagentic-workflowaiai-jobsartificial-intelligenceawsazureclaudeevalsforward-deployed-engineergeminigen-aiinterviewinterview-questionsllmmachine-learningnatural-language-processingopen-airagsystem-design-interview
Star4.1kFork842Watch38Mở trên GitHub
Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 21/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

AI System Design Guide là bộ tài liệu tham khảo và chuẩn bị phỏng vấn toàn diện dành cho kỹ sư AI thiết kế các hệ thống AI ở cấp độ production. Dự án cung cấp kiến trúc chuyên sâu về RAG, agentic AI, giao thức MCP/A2A, đánh giá mô hình (evals), cùng các case study thực tế từ các kỳ phỏng vấn staff-level.

  • Cung cấp ngân hàng 147 câu hỏi phỏng vấn thực tế kèm khung trả lời chi tiết và các bài tập vẽ sơ đồ thiết kế hệ thống.
  • Phân tích và đối chiếu kiến trúc retrieval nâng cao bao gồm RAG, GraphRAG, Agentic RAG, Contextual Retrieval và ColBERT.
  • Hướng dẫn chi tiết về agentic AI, giao thức Model Context Protocol (MCP) và Agent2Agent (A2A), loop engineering cùng kỹ thuật bền vững (durable execution).
  • Hai cẩm nang chuyên sâu về AI Evals bao gồm thiết lập tracing, LLM-as-a-judge và giám sát an toàn với Phoenix, Langfuse và LangWatch.

Lưu ý

  • Không phải là tài liệu hướng dẫn lập trình căn bản về Python, PyTorch hay kiến thức máy học nền tảng.
  • Mang tính định hướng quan điểm cụ thể về sự đánh đổi giữa chi phí, độ trễ và độ chính xác thay vì trung lập nhà cung cấp.
  • Chỉ đóng vai trò tài liệu tham khảo lý thuyết và thiết kế, không thay thế việc thực hành triển khai thực tế.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến67
  • Độ tươi80
  • Cộng đồng67
  • Tài liệu100
  • Phát hành20
  • Mức độ khóNâng cao
  • Phù hợp vớiLập trình viên · Dữ liệu
  • Loại dự ánTài liệu
  • Giấy phépMIT

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • MCP
  • OpenAI API
  • Anthropic API
  • Gemini API
  • LlLlamaIndex
  • vLLM
  • Ollama
  • AWS
  • Azure

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • 00-interview-prep/Ngân hàng 147 câu hỏi phỏng vấn, khung trả lời và bài tập thiết kế hệ thống
  • 02-model-landscape/Phân loại mô hình, biểu giá và hướng dẫn lựa chọn model
  • 04-inference-optimization/Tài liệu tối ưu hóa suy luận, PagedAttention, vLLM và triển khai on-device
  • 06-retrieval-systems/Kiến trúc RAG, kỹ thuật chunking, GraphRAG, ColBERT và kỹ thuật dữ liệu
  • 07-agentic-systems/Thiết kế hệ thống agent, chuẩn giao thức MCP và A2A, loop engineering
  • 14-evaluation-and-observability/Đánh giá chất lượng RAG, tracing, benchmark và giám sát drift
  • 16-case-studies/Các kiến trúc hệ thống thực tế kèm sơ đồ giải pháp chi tiết
  • 18-voice-and-audio-agents/Kiến trúc voice agent thời gian thực, speech-to-speech và tối ưu chi phí

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/ombharatiya/ai-system-design-guide.git
cd ai-system-design-guide

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Chuẩn bị cho các buổi phỏng vấn thiết kế hệ thống AI cấp độ Senior và Staff.
  • Thiết kế hệ thống RAG an toàn cho mô hình đa người thuê (multi-tenant) với phân quyền truy cập.
  • Xây dựng các agent tự hành kết nối công cụ bên ngoài thông qua chuẩn giao thức MCP và A2A.
  • Xây dựng hệ thống đánh giá tự động (evals) offline và online cho các pipeline LLM.
  • Tối ưu hóa chi phí token và độ trễ phục vụ suy luận bằng kỹ thuật caching và AI gateways.

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1morluto/reaReverse engineer anything with agents, from app behavior down to native binaries.418.5k+34.2k
  2. 2openclaw/openclawThe AI that really does things. Any OS. Any Platform. The lobster way. 🦞393.6k+590
  3. 3donnemartin/system-design-primerLearn how to design large-scale systems. Prep for the system design interview. Includes Anki flashcards.376.4k+865
  4. 4jwasham/coding-interview-universityA complete computer science study plan to become a software engineer.363.6k+279
  5. 5obra/superpowersAn agentic skills framework & software development methodology that works.310.6k+5.6k

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 21/10/2026.

Đăng nhập