读完 deepseek 的 KV Cache Compression,我突然觉得,人生同样需要好的 KV Cache
K 是唤起记忆的线索,V 是记忆留下的内容。新的情景发生时,Q 带着此刻的问题,从过去寻找答案。
经历越多,思虑越重;精力有限,再重要的往事也可能被冲淡,旧船票难以登上新船,错误的记忆也会影响后来的判断。
所谓成长,大概就是给生命做 KV cache
作者读完 DeepSeek 的 KV Cache Compression 后,将 K 比作唤起记忆的线索、V 比作记忆留下的内容,Q 则带着当下问题从过去寻找答案。经历越多思虑越重,精力有限,再重要的往事也可能被冲淡,错误记忆还会影响后续判断,所谓成长大概就是给生命做 KV cache。
读完 deepseek 的 KV Cache Compression,我突然觉得,人生同样需要好的 KV Cache
K 是唤起记忆的线索,V 是记忆留下的内容。新的情景发生时,Q 带着此刻的问题,从过去寻找答案。
经历越多,思虑越重;精力有限,再重要的往事也可能被冲淡,旧船票难以登上新船,错误的记忆也会影响后来的判断。
所谓成长,大概就是给生命做 KV cache
来源:Dongxi 东锡 NLP· x.com