jingyaogong/minimind-v

Public

👀 Train a 65M-parameter VLM from scratch in just 2h!

Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 05/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

MiniMind-V là mô hình thị giác-ngôn ngữ (VLM) siêu nhỏ với phiên bản tối thiểu chỉ 65M tham số, thiết kế để đào tạo và suy luận cực nhanh trên GPU cá nhân. Dự án dành cho sinh viên, nhà nghiên cứu và lập trình viên muốn tìm hiểu toàn bộ quy trình xây dựng VLM từ đầu.

  • Mô hình VLM siêu nhỏ chỉ 65M tham số (dense) hoặc 200M (MoE), chi phí huấn luyện SFT chỉ khoảng 3 tệ trong 2 giờ trên một GPU RTX 3090.
  • Sử dụng SigLIP2 (siglip2-base-p32-256-ve) làm Vision Encoder và chiếu đặc trưng qua MLP 2 lớp vào mô hình ngôn ngữ MiniMind.
  • Hỗ trợ định dạng dữ liệu huấn luyện Parquet tích hợp ảnh-văn bản, huấn luyện phân tán DDP, bfloat16 và torch.compile.
  • Cung cấp đầy đủ mã nguồn cho pretrain, SFT, suy luận CLI, đánh giá và giao diện web demo trực quan.

Lưu ý

  • Mô hình còn gặp hiện tượng lặp từ và ảo giác (hallucination) ở các chi tiết cục bộ do kích thước ngôn ngữ gốc nhỏ (65M).
  • Hình ảnh đầu vào bị cố định ở độ phân giải 256×256 cho SigLIP2 P32, chưa hỗ trợ độ phân giải động.
  • Khái niệm 'huấn luyện từ đầu' chỉ áp dụng cho VLM (khởi tạo ngẫu nhiên projector), trong khi phần LLM dựa trên trọng số pretrain sẵn của MiniMind.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến86
  • Độ tươi100
  • Cộng đồng38
  • Tài liệu100
  • Phát hành100
  • Mức độ khóTrung bình
  • Phù hợp vớiLập trình viên · Nhà nghiên cứu
  • Loại dự ánỨng dụng
  • Giấy phépApache-2.0

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • Python
  • PyTorch
  • Transformers
  • Weights & Biases
  • CUDA

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • dataset/Chứa dữ liệu mẫu và các kịch bản xử lý dữ liệu huấn luyện Parquet.
  • images/Chứa các hình ảnh tài liệu minh họa cho README.
  • model/Chứa định nghĩa kiến trúc mô hình VLM, encoder và projector.
  • scripts/Chứa các kịch bản tiện ích như khởi chạy WebUI demo.
  • trainer/Chứa mã nguồn logic và tiện ích hỗ trợ quá trình huấn luyện mô hình.

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/jingyaogong/minimind-v.git
cd minimind-v

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Thực hiện hỏi đáp và mô tả chi tiết nội dung hình ảnh trên phần cứng GPU tiêu dùng.
  • Học tập và nghiên cứu kiến trúc đa phương thức VLM với mã nguồn tinh gọn và dễ chỉnh sửa.
  • Huấn luyện trước (pretrain) hoặc tinh chỉnh (SFT) mô hình thị giác-ngôn ngữ trên tập dữ liệu tùy chỉnh định dạng Parquet.
  • Triển khai dịch vụ demo hỏi đáp đa phương thức qua WebUI với chi phí tài nguyên thấp.

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1NousResearch/hermes-agentThe agent that grows with you259.2k+2.4k
  2. 2Significant-Gravitas/AutoGPTAutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters.187.8k+120
  3. 3f/prompts.chatf.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the community. Free and open source — self-host for your organization with complete privacy.175.4k+1k
  4. 4langflow-ai/langflowLangflow is a powerful tool for building and deploying AI-powered agents and workflows.156.2k+221
  5. 5langchain-ai/langchainThe agent engineering platform.148.8k+390

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 05/10/2026.