干徒 - 开发爱好者

👋 你好

🌐 关于本站

💪 技能特长

📫 联系我

最新文章

第 15 课：推理与采样 —— 让模型「创造性」地生成 2026-09-01
第 36 课：RLHF 与人类对齐（Alignment） 2026-09-01
第 48 课：FP4 量化感知训练 —— E2M1 与 4 位权重 2026-09-01
第 25 课：KV Cache —— 让逐 token 生成不再重复计算 2026-09-01
第 31 课：Scaling Laws（缩放定律） 2026-09-01
第 50 课：MLA 解耦 RoPE + 权重吸收 —— 让 KV 缓存只存一份 latent 2026-09-01
第 24 课：Flash Attention —— 分块在线 softmax，GPU 显存救星 2026-09-01
第 13 课：训练循环 —— 让模型真正开始学习 2026-09-01
第 35 课：多 Token 预测（Multi-Token Prediction） 2026-09-01
第 49 课：CSA + HCA 混合注意力 —— 把长序列注意力分层压缩 2026-09-01
第 27 课：GPU 加速 —— 手写 WGSL 计算着色器 2026-09-01
第 22 课：SwiGLU 激活函数 —— LLaMA 的「门控」MLP 2026-09-01
第 2 课：自动微分 Autograd —— 让模型学会「自我修正」 2026-09-01
第 44 课：WSD 学习率调度（warmup-stable-decay） 2026-09-01
从零用 Rust 实现大语言模型 —— 学习计划 2026-09-01
第 19 课：Dropout —— 训练时的「随机失忆」 2026-09-01
第 40 课：把模型部署成 API 服务 —— 从「自己跑」到「给别人调」 2026-09-01
第 8 课：BPE 分词器 —— 让模型「读懂」文字 2026-09-01
第 41 课：多模态 —— 图片理解与图片生成 2026-09-01
第 3 课：张量运算扩展 —— 广播、归约、softmax、批量矩阵乘法 2026-09-01