/gguf-quantization
GGUF 格式與 llama.cpp 量化，用於高效率的 CPU/GPU 推論。在消費級硬體或 Apple Silicon 上部署，或需要不靠 GPU 的 2-8 bit 量化時使用。
- 安裝次數
- 1000
- 專案星數
- 1.4 萬 ★
- 授權
- MIT
- 專案更新
- 2026-10-11
怎麼裝
npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill gguf安裝前請先看過原文內容。中文說明是 AI 翻譯，不保證安全。
原文
GGUF format and llama.cpp quantization for efficient CPU/GPU inference. Use when deploying models on consumer hardware, Apple Silicon, or when needing flexible quantization from 2-8 bit without GPU requirements.