b4rtaz/distributed-llama

Public

Distributed LLM inference. Connect home devices into a powerful cluster to accelerate LLM inference. More devices means faster inference.

  • Stars3.1k+10 tuần này
  • Forks257
  • Watchers52
  • Issues46
  • Ngày tạo05/12/2023
  • Cập nhật gần nhất25/10/2026
  • Ngôn ngữC++
  • Giấy phépMIT

Repo này không có README

Chủ repo chưa viết README, hoặc file chưa được đồng bộ về Bee. Xem trực tiếp trên GitHub.

Mở trên GitHub