干徒 - 开发爱好者

👋 你好

🌐 关于本站

💪 技能特长

📫 联系我

最新文章

第 46 课：Muon 优化器 —— 动量矩阵的 Newton–Schulz 正交化 2026-09-01
第 31 课：Scaling Laws（缩放定律） 2026-09-01
第 24 课：Flash Attention —— 分块在线 softmax，GPU 显存救星 2026-09-01
第 43 课：FP8 低精度训练（模拟） 2026-09-01
第 12 课：完整 Transformer 模型 —— 把积木拼成能预测下一个词的模型 2026-09-01
第 21 课：RMSNorm —— 现代 LLM 的归一化标配 2026-09-01
第 39 课：工程化完善 —— 从算法实现到可用框架 2026-09-01
第 3 课：张量运算扩展 —— 广播、归约、softmax、批量矩阵乘法 2026-09-01
第 13 课：训练循环 —— 让模型真正开始学习 2026-09-01
第 14 课：数据加载 —— 文本如何变成训练样本 2026-09-01
第 5 课：线性层与激活函数 —— 神经网络的「积木」 2026-09-01
第 19 课：Dropout —— 训练时的「随机失忆」 2026-09-01
第 1 课：张量 Tensor —— 一切的基础 2026-09-01
第 18 课：学习率调度 —— warmup + cosine decay 2026-09-01
第 35 课：多 Token 预测（Multi-Token Prediction） 2026-09-01
第 41 课：多模态 —— 图片理解与图片生成 2026-09-01
第 7 课：第一个 MLP —— 教会神经网络算 XOR 2026-09-01
第 45 课：QK-Norm —— 把注意力的 Q/K 尺度钉死 2026-09-01
第 34 课：推测解码（Speculative Decoding） 2026-09-01
第 38 课：分布式训练（Distributed Training） 2026-09-01