← AI-Research-SKILLs

/model-pruning

寫程式AI-Research-SKILLsAI翻譯

用 Wanda 與 SparseGPT 等剪枝技術縮小 LLM 並加速推論。不需重新訓練就壓縮模型,或在硬體加速器上加快推論時使用。

安裝次數
976
專案星數
1.4 萬 ★
授權
MIT
專案更新
2026-10-11

怎麼裝

npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill model-pruning

安裝前請先看過原文內容。中文說明是 AI 翻譯,不保證安全。

原文

Reduce LLM size and accelerate inference using pruning techniques like Wanda and SparseGPT. Use when compressing models without retraining, achieving 50% sparsity with minimal accuracy loss, or enabling faster inference on hardware accelerators. Covers unstructured pruning, structured pruning, N:M sparsity, magnitude pruning, and one-shot methods.