原子力显微镜利用微悬臂感受和放大悬臂上尖细探针与受测样品原子之间的作用力，从而达到检测的目的，具有原子级的分辨率。由于原子力显微镜既可以观察导体，也可以观察非导体，从而弥补了扫描隧道显微镜的不足。
根据吸引力和排斥力发展出两种操作模式，即接触模式和非接触模式。然后，在非接触模式之上改良，就有了第三种模式轻敲模式。
原子力显微镜工作模式：接触模式
利用探针的针尖与待测物表面之原子力交互作用，探针与样品表面紧密接触并在表面上滑动。使非常软的探针臂产生偏折，此时用特殊微小的镭射光照射探针臂背面，被探针臂反射的雷射光以二相的镭射光相位侦检器来记录镭射光被探针臂偏移的变化。接触模式的优点是扫描速度快，分辨率高，是AFM技术中可得到原子级分辨率的图像的模式，并且对于一些表面上垂直变化较大的样品，比较容易扫描。但由于针尖在样品表面上滑动及样品表面与针尖的粘附力，可能使得针尖受到损害，样品产生变形，故对不易变形的低弹性样品存在缺点，并且其应切力会使图像产生扭曲。
特点：扫描速度快，是接触模式、非接触模式、轻敲模式三种模式中能获得原子级分辨率的模式。
操作要点：过大的作用力会损坏样品表面，但较大的的作用力通常可得到较佳的解析度。因此选择适当的的作用力，接触式的操作模式是十分重要的。
原子力显微镜工作模式：非接触模式
非接触模式是探针针尖始终不与样品表面接触，在样品表面上方5～20nm距离内扫描。针尖与样品之间的距离是通过保持微悬臂共振频率或振幅恒定来控制的。在这种模式中，样品与针尖之间的相互作用力是吸引力——范德华力。非接触模式AFM的工作原理就是，以略大于微悬臂自由共振频率的频率驱动微悬臂，当针尖接近样品表面时，微悬臂的振幅显著减小。振幅的变化量对应于作用在微悬臂上的力梯度，因此对应于针尖-样品间距，反馈系统通过调整针尖-样品间距使得微悬臂的振动幅度在扫描过程中保持不变，就可以得到样品的表面形貌像。样品不会被破坏，而且针尖也不会被污染，特别适合于研究柔嫩物体的表面。
特点：针尖不与样品接触，所以对样品没有损伤，且由于吸引力小于排斥力，针尖-样品作用力比接触式的小几个数量级，故灵敏度比接触模式高。
操作要点：在大气中操作时，试片表面常会吸附一层水，所以在讨论探针和试片交互作用时，必须考虑探针与试片表面水膜间的毛细孔现象。
原子力显微镜工作模式：轻敲模式
将非接触式加以改良，其原理是将探针与样品距离加近，然后增大振幅，使探针在振荡至波谷时接触样品，由于样品的表面高低起伏，使得振幅改变，再利用类似非接触式的迴馈控制方式来获得图像。轻敲模式的优点是对大多数样品有比较高的侧向分标率(1-5nm)，并且由于微悬臂的高频振动，使得针尖与样品之间频繁接触的时间相当短，针尖与样品可以接触，也可以不接触，且有足够的振幅来克服样品与针尖之间的粘附力。因此对样品的损害很小，适用于柔软、易脆和粘附性较强的样品，且不对它们产生破坏。这种模式在高分子聚合物的结构研究和生物大分子的结构研究中应用广泛。其缺点是扫描速度比接触模式要慢。
特点：很好地消除了横向力的影响，降低了由吸附液层引起的力，图像分辨率高，适于观测软、易碎或胶黏性样品，不会损伤其表面。
