专家并行（EP）DeepSeek-V3 有 671B 参数、256 个路由专家。一个 H100 只有 80 GB HBM。如果每张 GPU 都装完整模型，671B × FP16 2 bytes ≈ 1.3 TB——需要 17 张 H100 才能放下，...

大模型推理并行策略70B 的模型塞不进一张 80GB 的 H100——这是所有推理工程师都会遇到的第一道墙。解法不是换更大的 GPU，而是把模型拆开、把数据拆开、把计算拆开，让多张 GPU 协作完成推理。 「拆」的方式有五种：DP（数据并行）、TP（...

MLA: zhuanlan.zhihu.com/p/16730036197 KV Cache 深度解析：从原理到实战 A Deep Dive into KV Cache: From Fundamentals to Producti...

GFS的产生背景GFS是Google针对其数据访问量和应用场景而设计的分布式存储系统，其特点： 数据量大：海量数据，大文件为主，每个文件有几百MB，甚至几GB大小。系统支持小文件，但不需要针对小文件做专门的优化。 数据访问的特点是做数据分析：因此，...

AsyncQuery1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950#define BOOST_THREAD_VER...

文件系统读写 从内核文件系统看文件读写过程 address_space 指示文件在页缓存中已经缓存了的物理页，是页缓存和外部设备中文件系统的桥梁 读文件 read()函数根据传入的文件路径，在目录项中检索，找到该文件的inode 在inode...