Beeknoee Logo
Đăng nhậpĐăng ký miễn phí

Blaizzy/mlx-vlm

Public

MLX-VLM is a package for inference and fine-tuning of Vision Language Models (VLMs) on your Mac using MLX.

apple-siliconflorence2ideficsllavallmlocal-aimlxmolmopaligemmapixtralvision-frameworkvision-language-modelvision-transformer
Star5.7kFork871Watch35Mở trên GitHub
Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 02/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

MLX-VLM là thư viện Python hỗ trợ suy luận và tinh chỉnh các mô hình Vision Language Models (VLM) cùng Omni Models (hỗ trợ âm thanh, video) trên máy Mac sử dụng Apple MLX. Dự án dành cho các lập trình viên và nhà nghiên cứu AI muốn chạy mô hình thị giác và đa phương thức cục bộ.

  • Hỗ trợ nhiều loại đầu vào đa phương thức bao gồm văn bản, hình ảnh, âm thanh và đầu ra tiếng nói.
  • Hỗ trợ kỹ thuật speculative decoding với các họ drafter như DFlash, DFlash2, DSpark, Gemma 4 MTP và EAGLE-3.
  • Cung cấp giao diện dòng lệnh (CLI), máy chủ FastAPI tích hợp, và giao diện web chat với Gradio.
  • Hỗ trợ nén lượng tử hóa KV cache (như TurboQuant 3.5-bit) và điều khiển thinking budget cho các mô hình suy luận.

Lưu ý

  • Thiết kế riêng cho hệ sinh thái máy Mac dùng Apple Silicon và framework MLX.
  • DSpark decoding hiện yêu cầu greedy sampling (temperature=0).

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến76
  • Độ tươi100
  • Cộng đồng51
  • Tài liệu100
  • Phát hành100
  • Mức độ khóTrung bình
  • Phù hợp vớiLập trình viên · Nhà nghiên cứu
  • Loại dự ánFramework
  • Giấy phépMIT

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • Python
  • FastAPI
  • Gradio
  • Hugging Face

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • mlx_vlm/Mã nguồn chính triển khai kiến trúc mô hình, CLI, server và suy luận MLX
  • skills/Bộ agent-skills hỗ trợ các trợ lý lập trình như Claude Code, Codex, Gemini
  • examples/Tài nguyên và ví dụ chạy thử nghiệm (như hình ảnh mẫu)
  • docs/Tài liệu chi tiết hướng dẫn sử dụng và thông số các mô hình
  • .claude-plugin/Cấu hình tích hợp plugin dành cho Claude
  • .github/Cấu hình CI/CD và quy trình GitHub Actions

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/Blaizzy/mlx-vlm.git
cd mlx-vlm

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Chạy suy luận VLM cục bộ từ hình ảnh, âm thanh và văn bản trên chip Apple Silicon.
  • Chuyển đổi và lượng tử hóa (quantize) các mô hình Hugging Face sang định dạng MLX 4-bit.
  • Triển khai server suy luận đa phương thức qua FastAPI hỗ trợ speculative decoding và KV cache caching.
  • Tích hợp trợ lý code AI với gói agent skills được cấu hình sẵn trong thư mục skills/.

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1morluto/reaReverse engineer anything with agents, from app behavior down to native binaries.411.9k+39.2k
  2. 2affaan-m/ECCThe agent harness performance optimization system. Skills, instincts, memory, security, and research-first development for Claude Code, Codex, Opencode, Cursor and beyond.293.3k+6.1k
  3. 3NousResearch/hermes-agentThe agent that grows with you258.9k+2.3k
  4. 4firecrawl/firecrawlSupercharge your AI agents with data from the web and beyond. Building the library for superintelligence. 🔥197.1k+2.4k
  5. 5Significant-Gravitas/AutoGPTAutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters.187.8k+120

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 02/10/2026.

Đăng nhập