/hqq-quantization
不需校準資料的 Half-Quadratic Quantization。以 4/3/2-bit 量化模型而不用校準資料集，或要搭配 vLLM 或 HuggingFace Transformers 部署時使用。
- 安裝次數
- 990
- 專案星數
- 1.4 萬 ★
- 授權
- MIT
- 專案更新
- 2026-10-11
怎麼裝
npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill hqq安裝前請先看過原文內容。中文說明是 AI 翻譯，不保證安全。
原文
Half-Quadratic Quantization for LLMs without calibration data. Use when quantizing models to 4/3/2-bit precision without needing calibration datasets, for fast quantization workflows, or when deploying with vLLM or HuggingFace Transformers.