makemore
makemore
makemore
Andrej Karpathy 的自回归字符级语言模型系列。
演进路径
| Part | 模型 | 核心知识点 |
|---|---|---|
| 1 | Bigram | 语言模型基本框架,负对数似然 |
| 2 | MLP | 多层感知机,超参数调优 |
| 3 | BatchNorm | 激活值诊断,Batch Normalization |
| 4 | Backprop | 手工反向传播推导 |
| 5 | WaveNet | 树状 CNN 架构 |
makemore
Andrej Karpathy 的自回归字符级语言模型系列。
| Part | 模型 | 核心知识点 |
|---|---|---|
| 1 | Bigram | 语言模型基本框架,负对数似然 |
| 2 | MLP | 多层感知机,超参数调优 |
| 3 | BatchNorm | 激活值诊断,Batch Normalization |
| 4 | Backprop | 手工反向传播推导 |
| 5 | WaveNet | 树状 CNN 架构 |