/nanogpt
約 300 行的 GPT 教學實作,可在 OpenWebText 上重現 GPT-2 (124M)。程式簡潔,適合從頭學習 transformer。作者為 Andrej Karpathy。
- 安裝次數
- 985
- 專案星數
- 1.4 萬 ★
- 授權
- MIT
- 專案更新
- 2026-10-11
怎麼裝
npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill nanogpt安裝前請先看過原文內容。中文說明是 AI 翻譯,不保證安全。
原文
Educational GPT implementation in ~300 lines. Reproduces GPT-2 (124M) on OpenWebText. Clean, hackable code for learning transformers. By Andrej Karpathy. Perfect for understanding GPT architecture from scratch. Train on Shakespeare (CPU) or OpenWebText (multi-GPU).