← AI-Research-SKILLs

/nanogpt

寫程式AI-Research-SKILLsAI翻譯

約 300 行的 GPT 教學實作,可在 OpenWebText 上重現 GPT-2 (124M)。程式簡潔,適合從頭學習 transformer。作者為 Andrej Karpathy。

安裝次數
985
專案星數
1.4 萬 ★
授權
MIT
專案更新
2026-10-11

怎麼裝

npx skills add https://github.com/Orchestra-Research/AI-Research-SKILLs --skill nanogpt

安裝前請先看過原文內容。中文說明是 AI 翻譯,不保證安全。

原文

Educational GPT implementation in ~300 lines. Reproduces GPT-2 (124M) on OpenWebText. Clean, hackable code for learning transformers. By Andrej Karpathy. Perfect for understanding GPT architecture from scratch. Train on Shakespeare (CPU) or OpenWebText (multi-GPU).