/deepspeed
用 DeepSpeed 做分散式訓練的專家指引:ZeRO 最佳化階段、pipeline 平行、FP16/BF16/FP8、1-bit Adam、稀疏 attention。
- 安裝次數
- 995
- 專案星數
- 1.4 萬 ★
- 授權
- MIT
- 專案更新
- 2026-10-11
怎麼裝
npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill deepspeed安裝前請先看過原文內容。中文說明是 AI 翻譯,不保證安全。
原文
Expert guidance for distributed training with DeepSpeed - ZeRO optimization stages, pipeline parallelism, FP16/BF16/FP8, 1-bit Adam, sparse attention