缓存，就是CPU内置的一块小内存，它可以内置在单个处理器核心中，也能被部分或全部核心共同使用。这块内存就安家在处理器上，离得近，作用大，确保CPU执行任务时，不必每次都跑到系统RAM那里取数据。不同处理器的缓存容量各异，小的可能几千字节，大的则能达数兆字节。
缓存如何工作？
缓存自身也分层次，主要有L1、L2和L3三级。它们同为缓存，却各司其职。
L1缓存作为最贴近CPU的第一层，同时也是最小的，分为L1指令缓存（L1i）和L1数据缓存（L1d）。每个CPU核心都有专属的L1缓存，容量仅数千字节，主要存放CPU最近使用或将要用到的数据。一旦所需数据不在L1中，CPU就会转向L2查询。
L2缓存虽然也常与单个核心绑定，但在某些CPU中会被多个核心共享。它的容量远大于L1，比如酷睿i9-12900K的每个P核心配有80KB的L1缓存和1.25MB的L2缓存，后者几乎是前者的16倍。但伴随容量增加，访问延迟也会增长，意味着核心与L2间的信息交换耗时更长。考虑到CPU处理任务需争分夺秒，L2的这点延迟不容忽视。若L2也未能命中目标数据，CPU便会求助于L3。
L3缓存则是大家伙，跨核心共享，容量庞大。比如7950X3D拥有128MB的L3缓存加上附加的3D V-Cache，而L2仅为16MB。L3的延迟比L2更高，但其重要作用在于减少CPU直接向RAM索取数据的频率。毕竟，相较于其他内存层次，RAM的速度和延迟表现较差，CPU每回访RAM都会造成一定的效率损失。