mudler/LocalAI
PublicLocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.
Bee AI phân tích repositoryBETA
AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.
Cập nhật lần cuối: 12/10/2026
Tóm tắt bởi Bee AI
LocalAI là engine AI mã nguồn mở cho phép chạy nhiều loại mô hình (LLM, vision, âm thanh, hình ảnh, video) trên phần cứng thông thường không bắt buộc GPU. Dự án tương thích với API của OpenAI, Anthropic, ElevenLabs và hướng tới các nhà phát triển muốn tự lưu trữ AI riêng tư.
- Hỗ trợ đa phương thức bao gồm tạo văn bản, giọng nói, hình ảnh, phát hiện đối tượng và video qua một API duy nhất.
- Tương thích API drop-in với OpenAI, Anthropic và ElevenLabs trên mọi backend.
- Kiến trúc mô-đun kéo backend riêng biệt theo nhu cầu (llama.cpp, vLLM, whisper.cpp, stable-diffusion...).
- Hỗ trợ nhiều loại phần cứng: NVIDIA (CUDA), AMD (ROCm), Intel, Apple Silicon, Vulkan và CPU thuần.
- Tích hợp sẵn AI Agent, Model Context Protocol (MCP), xác thực API key, phân bổ hạn ngạch và WebUI.
Lưu ý
- Bản DMG trên macOS chưa được ký bởi Apple, người dùng cần gỡ quarantine bằng lệnh sudo xattr thủ công.
Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.
- Độ phổ biến99
- Độ tươi100
- Cộng đồng32
- Tài liệu100
- Phát hành100
- Mức độ khóTrung bình
- Phù hợp vớiLập trình viên · DevOps
- Loại dự ánỨng dụng
- Giấy phépMIT
Kiến trúc & Công nghệ
Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.
Tech stack
Go
C++
C
Docker
Kubernetes
PostgreSQL
CUDA
MCP- Llllama.cpp
vLLM- StStable Diffusion
Whisper
Kiến trúc tổng quan
Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.
backend/Mã nguồn các backend tích hợp và engine suy luận.cmd/Điểm nhập CLI và các lệnh thực thi nhị phân của LocalAI.core/Mã nguồn logic lõi của máy chủ API và điều phối suy luận.examples/Các ví dụ minh họa và mẫu tích hợp LocalAI.gallery/Cấu hình danh mục model gallery và các mô hình đóng gói sẵn.prompt-templates/Mẫu prompt chuẩn dành cho các dòng mô hình khác nhau.tests/Bộ kiểm thử tự động của hệ thống.website/Tài liệu và mã nguồn trang web dự án.
Hướng dẫn nhanh
Các bước để bắt đầu với repository này.
git clone https://github.com/mudler/LocalAI.git
cd LocalAICác use case chính
Những ứng dụng có thể xây dựng từ repository này.
- Thiết lập máy chủ suy luận AI cục bộ thay thế cho OpenAI/Anthropic phục vụ cho các ứng dụng nội bộ.
- Chạy mô hình chuyển văn bản thành giọng nói (TTS) và nhận dạng giọng nói (ASR) hai chiều bằng Realtime API.
- Triển khai hệ thống tự trị sử dụng MCP, RAG, duyệt file và gọi công cụ (tool calling).
- Tạo cụm suy luận phân tán (Distributed Mode) với định tuyến thông minh qua PostgreSQL và NATS.
Repository tương tự
Cùng chủ đề trong kho Bee.
- 1
public-apis/public-apisA collective list of free APIs493.2k+1.8k
- 2
morluto/reaReverse engineer anything with agents, from app behavior down to native binaries.407.3k+41.7k
- 3
openclaw/openclawThe AI that really does things. Any OS. Any Platform. The lobster way. 🦞393.4k+592
- 4
obra/superpowersAn agentic skills framework & software development methodology that works.308.4k+4.7k
- 5
affaan-m/ECCThe agent harness performance optimization system. Skills, instincts, memory, security, and research-first development for Claude Code, Codex, Opencode, Cursor and beyond.292.6k+6.2k
Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 12/10/2026.