Beeknoee Logo
Đăng nhậpĐăng ký miễn phí

magnitudedev/magnitude

Public

Open source inference engine that tunes its kernels on your hardware to find the fastest way to run each model. 2x faster than Ollama. Works on Apple Silicon, NVIDIA, AMD, Intel, or just a CPU.

Star7.6kFork551Watch35Mở trên GitHub
Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 09/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

Magnitude là inference engine mã nguồn mở dành cho AI agent, tự động tối ưu hóa và biên dịch kernel trực tiếp trên phần cứng của thiết bị (Apple Silicon, NVIDIA, AMD hoặc CPU). Dự án cung cấp ứng dụng desktop tích hợp sẵn CLI, giúp chạy mô hình mã nguồn mở nhanh hơn tới 2 lần so với llama.cpp.

  • Tự động biên dịch và tinh chỉnh kernel trên chính phần cứng người dùng trước khi chạy mô hình.
  • Nhanh hơn llama.cpp lên đến 2 lần (nhanh hơn 92% khi decode trên Metal và 19% trên CUDA).
  • Tiết kiệm 27% bộ nhớ cho mỗi agent và chia sẻ prefix cache giữa các session đồng thời.
  • Kết nối một chạm với các agent như Pi, OpenCode, Hermes, Codex, Claude Code, Cline hoặc qua API tương thích OpenAI.

Lưu ý

  • Hiệu năng tối ưu phụ thuộc vào các họ mô hình mã nguồn mở phổ biến đã được tối ưu kernel sẵn.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến84
  • Độ tươi100
  • Cộng đồng25
  • Tài liệu85
  • Phát hành100
  • Mức độ khóTrung bình
  • Phù hợp vớiLập trình viên
  • Loại dự ánỨng dụng
  • Giấy phépApache-2.0

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • Rust
  • TypeScript
  • CUDA
  • Vitest
  • OpenAI API

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • cli/Mã nguồn công cụ dòng lệnh (CLI) của Magnitude.
  • desktop/Mã nguồn ứng dụng giao diện desktop.
  • inference/Các thành phần xử lý suy luận mô hình và kernel.
  • integrations/Các tích hợp kết nối với các AI agent và công cụ bên ngoài.
  • packages/Các gói thư viện nội bộ dùng chung trong monorepo.
  • docs/Tài liệu hướng dẫn sử dụng và phát triển dự án.

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/magnitudedev/magnitude.git
cd magnitude

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Chạy mô hình ngôn ngữ mã nguồn mở cục bộ với hiệu năng tối ưu trên macOS, Windows hoặc Linux.
  • Cung cấp backend suy luận cục bộ hoàn toàn riêng tư cho các coding agent như Codex, Claude Code và Cline.
  • Vận hành nhiều phiên agent đồng thời bằng tính năng chia sẻ prefix cache để tránh suy giảm tốc độ.
  • Tích hợp ứng dụng qua endpoint API tương thích chuẩn OpenAI mà không cần kết nối internet.

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1ultraworkers/claw-codeAn agent-managed museum exhibit, built in Rust with Gajae-Code / LazyCodex — developed and maintained with no human intervention.195k-70
  2. 2clash-verge-rev/clash-verge-revA modern GUI client based on Tauri, designed to run in Windows, macOS and Linux for tailored proxy experience155.4k+1.8k
  3. 3farion1231/cc-switchA cross-platform desktop All-in-One assistant for Claude Code, Codex, OpenCode,DeepSeek Harness and more. Only official website: ccswitch.io150.6k+2.3k
  4. 4openai/codexLightweight coding agent that runs in your terminal132.5k+1.7k
  5. 5rustdesk/rustdeskAn open-source remote desktop application designed for self-hosting, as an alternative to TeamViewer.127.7k+903

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 09/10/2026.

Đăng nhập