基本原理
在CPU的设计中，一般输出线的直流负载能力可以驱动一个TTL负载，而在连接中，CPU的一根地址线或数据线，可能连接多个存储器芯片，但存储器芯片都为MOS电路，主要是电容负载，直流负载远小于TTL负载。故小型系统中，CPU可与存储器直接相连，在大型系统中就需要加缓冲器。
任何程序或数据要为CPU所使用，必须先放到主存储器（内存）中，即CPU只与主存交换数据，所以主存的速度在很大程度上决定了系统的运行速度。程序在运行期间，在一个较短的时间间隔内，由程序产生的地址往往集中在存储器的一个很小范围的地址空间内。指令地址本来就是连续分布的，再加上循环程序段和子程序段要多次重复执行，因此对这些地址中的内容的访问就自然的具有时间集中分布的倾向。数据分布的集中倾向不如程序这么明显，但对数组的存储和访问以及工作单元的选择可以使存储器地址相对地集中。这种对局部范围的存储器地址频繁访问，而对此范围外的地址访问甚少的现象被称为程序访问的局部化（Locality of Reference）性质。由此性质可知，在这个局部范围内被访问的信息集合随时间的变化是很缓慢的，如果把在一段时间内一定地址范围被频繁访问的信息集合成批地从主存中读到一个能高速存取的小容量存储器中存放起来，供程序在这段时间内随时采用而减少或不再去访问速度较慢的主存，就可以加快程序的运行速度。这个介于CPU和主存之间的高速小容量存储器就称之为高速缓冲存储器，简称Cache。不难看出，程序访问的局部化性质是Cache得以实现的原理基础。同理，构造磁盘高速缓冲存储器（简称磁盘Cache），也将提高系统的整体运行速度CPU一般设有一级缓存（L1 Cache）和二级缓存（L2 Cache）。一级缓存是由CPU制造商直接做在CPU内部的，其速度极快，但容量较小，一般只有十几K。PⅡ以前的PC一般都是将二级缓存做在主板上，并且可以人为升级，其容量从256KB到1MB不等，而PⅡ CPU则采用了全新的封装方式，把CPU内核与二级缓存一起封装在一只金属盒内，并且不可以升级。二级缓存一般比一级缓存大一个数量级以上，另外，在CPU中，已经出现了带有三级缓存的情况。
