← wshobson/agents

/quantized-export

寫程式wshobson/agentsAI翻譯

把通過升級的微調模型匯出成適合部署的格式:合併 safetensors、僅 LoRA、含 imatrix 的 GGUF 或 FP8。用於 checkpoint 通過升級後、為目標裝置選擇量化格式,或匯出模型未通過 smoke test 時。

安裝次數
2800
專案星數
4.2 萬 ★
授權
MIT
專案更新
2026-11-02

怎麼裝

npx skills add https://github.com/wshobson/agents --skill quantized-export

安裝前請先看過原文內容。中文說明是 AI 翻譯,不保證安全。

原文

Export a promoted fine-tuned model in the right deployment format — merged safetensors, LoRA-only, GGUF with imatrix, or FP8. Use after a checkpoint passes promotion, when choosing a quantization format for a target device, or when an exported model fails its smoke test.