KV Cache

MLA: zhuanlan.zhihu.com/p/16730036197 KV Cache 深度解析:从原理到实战 A Deep Dive into KV Cache: From Fundamentals to Producti...

LLM

GFS

GFS的产生背景GFS是Google针对其数据访问量和应用场景而设计的分布式存储系统,其特点: 数据量大:海量数据,大文件为主,每个文件有几百MB,甚至几GB大小。系统支持小文件,但不需要针对小文件做专门的优化。 数据访问的特点是做数据分析:因此,...

Distribution
RocksDB

Notes

Command du -h -d1 | sort -hr 列出当前目录下(含隐藏)文件大小 netstat -anp | grep 20501 查看端口占用,netstat -i 网卡信息 ipcs 显示共享内存段、消息队列和信号量的信息 ifcon...

Other

Design pattern

设计原则 单⼀职责原则:⼀个类应该仅有⼀个引起它变化的原因。 开放封闭原则:软件实体可以扩展,但是不可修改。即⾯对需求,对程序的改动可以通过增加代码来完成,但是不能改动现有的代码。 ⾥⽒代换原则:⼀个软件实体如果使⽤的是基类,则⼀定适⽤于其派⽣类。即...

Software

Example

AsyncQuery1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950#define BOOST_THREAD_VER...

CPP

Cpp编译链接

ELF格式和动态链接可执行文件和共享库通常采用ELF格式。ELF格式不仅定义了文件的结构,还包含了一系列的头部信息,这些信息对于动态链接和程序的执行至关重要。 ELF文件结构一个典型的ELF文件由以下几个部分组成: 文件头(ELF Header):...

CPP

Linux内存与存储

文件系统读写 从内核文件系统看文件读写过程 address_space 指示文件在页缓存中已经缓存了的物理页,是页缓存和外部设备中文件系统的桥梁 读文件 read()函数根据传入的文件路径,在目录项中检索,找到该文件的inode 在inode...

OS

分布式理论

CAP一致性:在同一时刻副本一致,所有节点读到修改后的最新数据 - 强一致性、单调一致性、最终一致性可用性:每次请求都能获取非错的响应,尽量低延迟,不保证节点数据最新分区容忍性:出现网络分区时(节点间通信中断),系统仍能对外提供服务 BASEB...

Distribution

MIT 6.824

Raft QAFolding Raft 只在非拜占庭的条件下才能正常工作 非拜占庭条件 是指所有的服务器都是 宕机-停止 模型:即每个服务器要么严格遵循 Raft 协议,要么停止服务。例如,服务器断电就是一个非拜占庭条件,此时服务器会停止执行指令,则...

八股
1234