高速缓存，即Cache，是位于CPU与主存之间的一种容量较小但速度很快的存储器，用于解决CPU处理速率和主存访问速率差异过大的问题。CPU将内存中的数据读到高速缓存时，会根据局部性原理，除了读取本次要访问的数据，还会预取本次数据的周边数据到Cache里面，如果CPU后续要读取的数据已经在高速缓存中，那么就会有效提升性能。

现代计算机系统基本都采用了层次性的存储结构。在这个层次结构中，存储设备的访问速度越来越慢、容量越来越大，并且单位成本也越来越低。存储层次结构的主要思想就是利用上一级的存储器作为下一层存储器的缓存。

计算机程序运行遵循局部性原则。局部性原理是指程序在执行时呈现出局部性规律，即在一段时间内，整个程序的执行仅限于程序中的某一部分。相应地，执行所访问的存储空间也局限于某个内存区域。局部性原理分为时间局部性原理和空间局部性原理：

具有良好局部性的程序比差的程序更多的倾向于从存储器层次结构较高层次处访问数据，因此运行的更快。

高速缓存通常被组织成一个有多个高速缓存组的数组，每个高速缓存组包含若干个高速缓存行。如下图是高速缓存的基本结构： 高速缓存结构的基本组织如下：

处理器通常使用特定的地址编码访问高速缓存，地址包含标记、组索引、偏移量三个部分：

由于高速缓存的容量远小于主存，因此需要一种映射算法完成主存到高速缓存的映射，以及确定高速缓存行存储的是哪一块内存数据。映射方式的选择决定了高速缓存的组织结构，通常采用三种映射算法：

直接映射是最简单的映射技术，只允许将主存中的每个块映射到一个固定可用的缓存行中，这种映射方式下每个高速缓存组只有一个高速缓存行，称为直接映射高速缓存。

为了解决直接映射高速缓存中的高速缓存颠簸问题，组相联的高速缓存结构在现代处理器中得到广泛应用。组相联高速缓存每个组内保存有多于一个的高速缓存行，这样就支持同一内存块可以映射到特定缓存组的任意行中。

全相联映射允许每一个内存块装入高速缓存中的任意行，称为全相联高速缓存。全相联高速缓存只包含一个缓存组，并由所有高速缓存行组成。

高速缓存更新策略是指当发生缓存命中时，写操作应该如何更新数据。缓存更新策略分成两种：写直通和回写：