Jit-Roy/WeeLLM
PublicWeeLLM runs large diffusion models with as little as 4 GB of VRAM, without any quantization. It dynamically determines how many layers can fit within the available VRAM and streams the text encoder and transformer layers to the GPU layer by layer, enabling inference on hardware with limited VRAM. It supports both safetensors and GGUF models.
Bee AI phân tích repositoryBETA
AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.
Chưa có bản phân tích AI cho repo này
Bee AI sẽ đọc README và cây file rồi tóm tắt bằng tiếng Việt và tiếng Anh, mất khoảng 30–60 giây.
Tối đa 5 lượt mỗi giờ cho một địa chỉ IP · ngân sách chung theo ngày.
Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.
50/100Điểm tổng thể
- Độ phổ biến6
- Độ tươi100
- Cộng đồng39
- Tài liệu75
- Phát hành20
- Mức độ khóCó sau khi phân tích
- Phù hợp vớiCó sau khi phân tích
- Loại dự ánCó sau khi phân tích
- Giấy phépKhông có
Hướng dẫn nhanh
Các bước để bắt đầu với repository này.
bash
git clone https://github.com/Jit-Roy/WeeLLM.git
cd WeeLLMRepository tương tự
Cùng chủ đề trong kho Bee.
- 1
AUTOMATIC1111/stable-diffusion-webuiStable Diffusion web UI165.2k+70
- 2
Comfy-Org/ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface. The fastest local inference engine in the world.143.8k+1.8k
- 3
unslothai/unslothLocal UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4.1, MiniMax-H3, Gemma 4, FLUX and more.78.7k+273
- 4
calesthio/OpenMontageWorld's first open-source, agentic video production system. 12 production pipelines, 100+ tools, 700+ agent skill and production-knowledge files. Turn your AI coding assistant into a full video production studio.72.7k+1.8k
- 5
mudler/LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.50k+173