prabanta-dev/janas

Public

37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cpp on all 13 models compared in Q4_K_M. LLMs bigger than your RAM, pure C, CPU or GPU.

avx2 c cpu-inference gguf inference-engine linux llm local-llm mixture-of-experts moe nvme quantization qwen3 simd speculative-decoding vulkan

Star471 Fork37 Watch4 Mở trên GitHub

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Đăng nhập để hỏi Bee AI

Chưa có bản phân tích AI cho repo này

Bee AI sẽ đọc README và cây file rồi tóm tắt bằng tiếng Việt và tiếng Anh, mất khoảng 30–60 giây.

Hôm nay đã hết lượt phân tích hoặc tính năng đang tắt. Thử lại sau.

Tối đa 5 lượt mỗi giờ cho một địa chỉ IP · ngân sách chung theo ngày.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

65/100Điểm tổng thể

Độ phổ biến18
Độ tươi100
Cộng đồng30
Tài liệu100
Phát hành100

Mức độ khóCó sau khi phân tích
Phù hợp vớiCó sau khi phân tích
Loại dự ánCó sau khi phân tích
Giấy phépGPL-3.0

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash

git clone https://github.com/prabanta-dev/janas.git
cd janas

Repository tương tự

Cùng chủ đề trong kho Bee.