原子力显微镜的基本原理是利用针尖与样品表面原子间的微弱作用力来作为反馈信号。将一个对微弱力具有超高敏感性的微小悬臂的一端固定，另一端上含有一个微小的针尖。进行测试时，针尖通过与待测样品的表面进行轻轻的碰触，原子与待测样品表面的原子之间存在微弱的相互作用力，在扫描时通过维持这种相互作用力的恒定，带有针尖的微悬臂将对应于针尖与样品表面原子间作用力的等位面而在垂直于样品的表面方向上进行起伏运动。通过光学检测或者隧道电流检测的方法，可观测到扫描各点位置的变化，从而可以准确获得样品的表面形貌等信息。
原子力显微镜的系统可分成三个部分：力检测部分、位置检测部分、反馈系统。
力检测部分：所要检测的力是原子与原子之间的范德华力。使用微小悬臂(cantilever)来检测原子之间力的变化量。微悬臂通常由一个一般100500μm长和大约500nm5μm厚的硅片或氮化硅片制成。微悬臂顶端有一个尖锐针尖，用来检测样品与针尖间的相互作用力。
位置检测部分：以激光检测原子力显微镜(Atomic Force Microscope Employing Laser Beam Deflection for Force Detection，Laser-AFM)为例，二极管激光器发出的激光束经过光学系统聚焦在微悬臂背面，并从微悬臂背面反射到由光电二极管构成的光斑位置检测器。在样品扫描时，由于样品表面的原子与微悬臂探针原子间的相互作用力，微悬臂将随样品表面形貌而弯曲起伏，反射光束也将随之偏移。通过光电二极管检测光斑位置的变化，就能获得被测样品表面形貌的信息。
反馈系统：通过电子学反馈系统使弯曲量保持一定，即控制扫描管Z轴使作用于针尖与样品间的力保持一定。
