FareedKhan-dev/train-llm-from-scratch

Tóm tắt bởi Bee AI

Kho mã nguồn hướng dẫn xây dựng và huấn luyện mô hình ngôn ngữ lớn (LLM) từ đầu bằng PyTorch thuần, bao gồm từ tiền huấn luyện đến căn chỉnh hậu huấn luyện như SFT, Reward Model, PPO, DPO và GRPO.

• Cài đặt kiến trúc Transformer từ đầu bằng PyTorch mà không dùng các thư viện trừu tượng cấp cao như trl, peft hay transformers.
• Bao gồm trọn vẹn quy trình hậu huấn luyện: SFT, mô hình phần thưởng Bradley-Terry, PPO với GAE, DPO, ORPO, KTO và GRPO.
• Cung cấp các cấu hình smoke nhỏ gọn cho phép chạy thử nghiệm kiểm tra toàn bộ quy trình chỉ trong vài giây trên CPU hoặc GPU đơn.

Điểm BeeTính thuần từ số liệu trong kho Bee, không phải AI chấm: bách phân vị sao 30% · độ tươi lần push 25% · fork và watcher 15% · README, giấy phép, mô tả 20% · có bản phát hành 10%.

• Mức độ khóNâng cao
• Phù hợp vớiLập trình viên · Nhà nghiên cứu
• Loại dự ánVí dụ
• Giấy phépMIT