写作

文章

5 篇。聚焦 AI 推理、算力调度与基础设施。 每篇都从一个具体的工程问题出发,尽量给出可立刻动手的方向。

全部 · 5 推理 算力 调度 数据 工程实践
02

一张卡跑不动时,多张卡也救不了你

把多卡推理拆成通信、显存、调度三件事,聊聊为什么「加卡」经常不顶用,以及什么情况下才有用。

算力 Tensor Parallel NVLink
2025·05·28 9 分钟
03

把推理集群当作一台计算机来设计

从单机 OS 的视角看集群调度:进程、内存、IO。结论是:单机经验可以直接借鉴,但前提是你愿意承认它是错的。

调度 OS 集群
2025·05·10 14 分钟
04

数据不是资产,数据是负债

当数据存储和合规成本超过它的训练价值时,保留它就是错的。一种「数据生命周期」的简化视角。

数据 合规 存储成本
2025·04·22 7 分钟

想第一时间看到新文章?

RSS 订阅可用,或直接发邮件告诉我你想跟踪的主题。