干徒 - 开发爱好者

👋 你好

🌐 关于本站

💪 技能特长

📫 联系我

最新文章

第 25 课：KV Cache —— 让逐 token 生成不再重复计算 2026-09-01
第 38 课：分布式训练（Distributed Training） 2026-09-01
第 35 课：多 Token 预测（Multi-Token Prediction） 2026-09-01
第 7 课：第一个 MLP —— 教会神经网络算 XOR 2026-09-01
第 32 课：MoE 混合专家模型（Mixture of Experts） 2026-09-01
第 15 课：推理与采样 —— 让模型「创造性」地生成 2026-09-01
第 12 课：完整 Transformer 模型 —— 把积木拼成能预测下一个词的模型 2026-09-01
第 44 课：WSD 学习率调度（warmup-stable-decay） 2026-09-01
第 8 课：BPE 分词器 —— 让模型「读懂」文字 2026-09-01
第 1 课：张量 Tensor —— 一切的基础 2026-09-01
第 41 课：多模态 —— 图片理解与图片生成 2026-09-01
第 13 课：训练循环 —— 让模型真正开始学习 2026-09-01
第 39 课：工程化完善 —— 从算法实现到可用框架 2026-09-01
第 45 课：QK-Norm —— 把注意力的 Q/K 尺度钉死 2026-09-01
第 33 课：量化技术（Quantization） 2026-09-01
第 27 课：GPU 加速 —— 手写 WGSL 计算着色器 2026-09-01
第 16 课：训练小 Transformer —— 看 loss 从 1.30 降到 0.16 2026-09-01
第 42 课：知识蒸馏（Knowledge Distillation） 2026-09-01
第 5 课：线性层与激活函数 —— 神经网络的「积木」 2026-09-01
第 46 课：Muon 优化器 —— 动量矩阵的 Newton–Schulz 正交化 2026-09-01