microsoft/onnxruntime

Public

ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator

Beeknoee

Bee AI phân tích repositoryBETA

AI đọc README và cây file để tóm tắt, gợi ý cách dùng và đánh giá repository. Mọi con số lấy từ kho Bee, không do AI ước lượng.

Cập nhật lần cuối: 06/10/2026

Đăng nhập để hỏi Bee AI

Tóm tắt bởi Bee AI

ONNX Runtime là bộ tăng tốc suy luận (inference) và huấn luyện (training) mô hình học máy đa nền tảng, hiệu năng cao do Microsoft phát triển. Thư viện hỗ trợ tối ưu hóa và thực thi mô hình từ nhiều framework như PyTorch, TensorFlow, scikit-learn trên đa dạng nền tảng phần cứng và hệ điều hành.

  • Hỗ trợ mô hình từ các deep learning framework (PyTorch, TensorFlow/Keras) và thư viện ML truyền thống (scikit-learn, LightGBM, XGBoost).
  • Tăng tốc hiệu năng tối ưu thông qua tối ưu hóa đồ thị tính toán và tích hợp các bộ tăng tốc phần cứng.
  • Hỗ trợ tăng tốc huấn luyện mô hình transformer trên cụm nhiều node GPU NVIDIA chỉ với một dòng mã bổ sung cho PyTorch.
  • Cung cấp bindings và API cho nhiều ngôn ngữ lập trình như C++, Python, C#, Java, JavaScript, Rust và Go.

Lưu ý

  • Dự án có thể thu thập dữ liệu sử dụng (telemetry) và gửi về Microsoft nhằm cải thiện sản phẩm.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

  • Độ phổ biến96
  • Độ tươi100
  • Cộng đồng69
  • Tài liệu100
  • Phát hành100
  • Mức độ khóTrung bình
  • Phù hợp vớiLập trình viên · Dữ liệu
  • Loại dự ánFramework
  • Giấy phépMIT

Kiến trúc & Công nghệ

Công nghệ AI nhận ra từ README và cây file — chỉ những mục nằm trong danh sách Bee kiểm.

Tech stack

  • C++
  • Python
  • ONNX
  • CUDA
  • CMake
  • C#
  • Java
  • JavaScript
  • Rust
  • Go

Kiến trúc tổng quan

Repository → công nghệ chính → các thư mục cấp 1 có thật trong repo; vai trò do AI mô tả.

  • onnxruntime/Mã nguồn chính của engine suy luận ONNX Runtime và các execution provider
  • orttraining/Các thành phần và tiện ích mở rộng phục vụ tăng tốc huấn luyện mô hình
  • include/Header API công khai dành cho C và C++
  • cmake/Cấu hình hệ thống build CMake cho các nền tảng và tùy chọn
  • dockerfiles/Tập lệnh định nghĩa Docker container cho các môi trường build và chạy
  • samples/Mã mẫu minh họa cách sử dụng ONNX Runtime
  • tools/Công cụ hỗ trợ chuyển đổi mô hình, kiểm thử và quản lý build
  • js/Thư viện và bindings ONNX Runtime dành cho JavaScript / Web / Node.js

Hướng dẫn nhanh

Các bước để bắt đầu với repository này.

bash
git clone https://github.com/microsoft/onnxruntime.git
cd onnxruntime

Các use case chính

Những ứng dụng có thể xây dựng từ repository này.

  • Triển khai suy luận mô hình học sâu và học máy với độ trễ thấp và chi phí tối ưu trên server hoặc thiết bị biên.
  • Tăng tốc quá trình huấn luyện các mô hình transformer trên hạ tầng GPU NVIDIA phân tán.
  • Tích hợp mô hình AI vào các ứng dụng đa ngôn ngữ (C++, C#, Java, Node.js, Web, Go, Rust).

Repository tương tự

Cùng chủ đề trong kho Bee.

  1. 1tensorflow/tensorflowAn Open Source Machine Learning Framework for Everyone201.2k+31
  2. 2f/prompts.chatf.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the community. Free and open source — self-host for your organization with complete privacy.175.1k+1.1k
  3. 3huggingface/transformers🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.168.3k+326
  4. 4AUTOMATIC1111/stable-diffusion-webuiStable Diffusion web UI165.2k+77
  5. 5Comfy-Org/ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface. The fastest local inference engine in the world.144k+2k

Nội dung do AI sinh, có thể sai hoặc thiếu — số liệu lấy từ kho Bee, không do AI ước lượng. Cập nhật lần cuối: 06/10/2026.