1. AI Infra 的各种挑战和 Tips 系列 - NVIDIA Nemotron-3 Ultra 原创 AI闲谈 2026-06-12 08:00 北京 比较早期的文章中介绍过大模型训练中常见的问题和各种挑战，随着模型的演进、硬件的升级和算法的迭代，一系列新的问题随之而来。本文开始，我们进一步梳理各种大模型训练中和 AI-Infra 相关的问题、Trick 以及 Trade-off 一、引言 比较早期的文章中介绍过大模型训练中常见的问题和各种挑战，随着模 06/12 08:00 ♡
2. 全面梳理 Muon 优化器的工业挑战及应用实践 原创 AI闲谈 2026-05-04 12:00 北京 本文中我们简单梳理一下 Muon 优化器的数学原理、分布式训练中的工程挑战以及工业界落地的相关案例。 一、引言 Muon （ M oment U m O rthogonalized by N ewton–Schulz）由 Keller Jordan 等人于 2024 年 10 月正式发布 Muon: A 05/04 12:00 ♡
3. NVIDIA BlueField-DPU 解析 & 生态汇总 原创 AI闲谈 2026-05-02 20:00 北京 本文全面梳理了 NVIDIA BlueField-DPU 的硬件代际、关键子系统（DPA / GDS / NVMe-oF RDMA）、网络互联、AI Factory 与大模型场景下的收益、CMX 上下文记忆存储等。信息比较多可能存在误差，以 NVIDIA 官方 Datasheet、DOCA SDK 等为 05/02 20:00 ♡
4. DeepSeek-V4 详细解析之 KV-Cache & 计算量 原创 AI闲谈 2026-04-26 08:00 北京 本文中笔者对 DeepSeek-V4-Pro/DeepSeek-V3.2 的 Cache 存储量和每个 Token 的 Inference FLOPs 进行详细分析。通过该分析，也可以清晰的理解两个模型中 DSA、HCA、CSA 的计算过程。 一、引言 前几天笔者详细分析了各种旗舰大模型是如何节约 KV 04/26 08:00 ♡
5. Google TPU 系列之 TPUv8 全面解析 原创 AI闲谈 2026-04-23 21:59 北京 Google 在 2026.04 发布了第 8 代 TPU，包含 2 种芯片，用于 Training 的 TPUv8t 和用于 Inference 的 TPUv8i。此外，在第 8 代 TPU 系统中集成了基于 Arm 架构的 Axion CPU。 一、背景 Google 在 2026.04 发布了第 04/23 21:59 ♡
6. 被低估的变量：KV-Cache 驱动的 AI Infra 演进 原创 AI闲谈 2026-04-22 20:01 北京 最近在看下一代 AI 数据中心的建设方案，在做建模规划时，越来越强烈地感受到一个常被低估的变量：Agentic 应用的快速发展以及模型架构的持续演进，正在重新定义 KV-Cache 的规模、形态和传输方式，进而影响 AI Infra 的设计。 一、引言 最近在看下一代大规模 AI 数据中心的建设方案，比 04/22 20:01 ♡
7. NVIDIA DWDP：NVL72 上的分布式权重数据并行推理 原创 AI闲谈 2026-04-13 21:02 广东 一、引言 简单介绍一下 NVIDIA 最近在 GB200 NVL72 针对 MoE 模型的一个 Inference 优化工作，需要说明的是，这不是一个万能的解决方案，有很多约束，比如主要适合 Prefill 阶段，TPS/User 要求不能特别高，输入序列长度也不能特别大。除此之外，提升也不是非常明显。 04/13 21:02 ♡
8. 全面解析 NVIDIA 最新硬件：Vera/Rubin/Rubin Ultra/NVL72/NVL144/LPX 等 原创 AI闲谈 2026-03-21 20:01 北京 最近 NVIDIA 召开了 GTC-2026 大会，更新一系列 Rubin Platform 产品，并开始逐步量产，标志着下一代 Rubin 架构真正商用的到来。本文中我们对相应的产品和参数进行总结，相关数据主要来自 NVIDIA 官网和 GTC-2026 大会。 一、引言 最近 NVIDIA 召开了 03/21 20:01 ♡
9. NVIDIA GTC2026 详细解读和分析 原创 AI闲谈 2026-03-18 23:00 北京 本文会重点介绍一下 GTC2026 硬件部分，也会进一步完善一些关键部分的分析和解读。 一、引言 最近几天 NVIDIA 正在召开 GTC 2026，按照惯例，笔者也继续介绍一下相关内容。考虑到网上已经有非常多介绍，本文中会刻意省略一些部分，比如最近爆火的小龙虾 - NemoClaw，以及 NVIDIA 03/18 23:00 ♡
10. DeepSeek DualPath 论文详细解读 原创 AI闲谈 2026-03-06 20:01 北京 没等来 DeepSeek V4，等来了 DualPath，虽然没有非常多算法上的创新，依然是个非常不错的工程实践。依照惯例，这里我们对 DeepSeek 的这篇文章进行重点介绍。 一、引言 没等来 DeepSeek V4，却先等来了 DualPath。虽然它在算法层面并没有带来特别显著的创新，但从工程实 03/06 20:01 ♡