cheaper-inference/OmniRoute
PublicNever stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors
Bee AI phân tích repositoryBETA
AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.
Cập nhật lần cuối: 17/10/2026
Tóm tắt bởi Bee AI
OmniRoute là AI gateway mã nguồn mở cung cấp một endpoint duy nhất tổng hợp hơn 350 nhà cung cấp và 1200+ mô hình AI. Dự án dành cho lập trình viên muốn định tuyến, tự động dự phòng hạn ngạch và nén token khi dùng các công cụ lập trình AI.
- Cung cấp một endpoint tương thích OpenAI kết nối tới hơn 350 nhà cung cấp và hơn 1200 mô hình AI.
- Hỗ trợ 19 chiến lược định tuyến linh hoạt (ưu tiên, round-robin, tối ưu chi phí, LKGP, auto-combo).
- Tích hợp tính năng nén token RTK và Caveman giúp tiết kiệm từ 15% đến 95% token.
- Tương thích trực tiếp với các công cụ phát triển như Claude Code, Codex, Cursor, Cline và Copilot.
Lưu ý
- Các gói miễn phí yêu cầu người dùng tự đăng ký tài khoản bên thứ ba; OmniRoute không tự cấp token miễn phí.
- Các tác vụ agent hỗ trợ code với context dài yêu cầu cấp phát bộ nhớ V8 và Docker RAM lớn (tối thiểu 8-12 GiB) để tránh lỗi bộ nhớ.
Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.
- Độ phổ biến100
- Độ tươi100
- Cộng đồng48
- Tài liệu100
- Phát hành100
- Mức độ khóTrung bình
- Phù hợp vớiLập trình viên · DevOps
- Loại dự ánỨng dụng
- Giấy phépMIT
Kiến trúc & Công nghệ
Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.
Tech stack
TypeScript
JavaScript
Node.js
Docker
Electron
SQLite
Playwright
webpack
Kiến trúc tổng quan
Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.
src/Chứa mã nguồn chính của ứng dụng gateway và APIelectron/Mã nguồn ứng dụng desktop đóng gói bằng Electrondocker/Cấu hình Docker và script phục vụ container hóadocs/Tài liệu hướng dẫn chi tiết về cấu hình, tích hợp và kiến trúcexamples/Ví dụ mẫu kết nối bằng cURL, Python, Node.js và PHPpackages/Các gói thư viện nội bộ trong monorepotests/Bộ mã kiểm thử tự động của hệ thốngskills/Bộ tích hợp skill mở rộng cho tác vụ agent và MCP
Hướng dẫn nhanh
Các bước để bắt đầu với repository này.
git clone https://github.com/cheaper-inference/OmniRoute.git
cd OmniRouteCác use case chính
Những ứng dụng có thể xây dựng từ repository này.
- Kết nối và định tuyến luân phiên nhiều tài khoản AI miễn phí hoặc trả phí qua một cổng API duy nhất.
- Thiết lập cơ chế tự động chuyển đổi mô hình (fallback) khi một nhà cung cấp cạn hạn ngạch hoặc gặp sự cố.
- Tối ưu chi phí và độ trễ gọi LLM trong các công cụ hỗ trợ viết mã tự động như Cursor hay Claude Code.
- Triển khai gateway AI tự lưu trữ cục bộ qua Docker, Electron desktop app hoặc máy chủ VPS.
Repository tương tự
Cùng chủ đề trong kho Bee.
- 1
morluto/reaReverse engineer anything with agents, from app behavior down to native binaries.365.6k+126.1k
- 2
affaan-m/ECCThe agent harness performance optimization system. Skills, instincts, memory, security, and research-first development for Claude Code, Codex, Opencode, Cursor and beyond.286.4k+6.2k
- 3
deepseek-ai/deepseek-harnessDeepSeek Harness: Everything is a Plugin.258.1k+7.7k
- 4
NousResearch/hermes-agentThe agent that grows with you256.2k+2.1k
- 5
n8n-io/n8nFair-code workflow automation platform with native AI capabilities. Combine visual building with custom code, self-host or cloud, 400+ integrations.208.3k+831
Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 17/10/2026.